ChatGPT ist seit Wochen eine Sensation, weil man damit Texte, Gedichte und Softwarecode automatisch schreiben kann. In Cyberforen versuchen Akteure damit Schadcode und Phishing-Nachrichten zu erstellen. Foto: Blue Planet Studio – Shutterstock.com
Der KI-Chatbot ChatGPT von OpenAI hat ein breites Anwendungsspektrum. Kann Fragen beantworten und selbstständig Texte, Gedichte, Quellcode und technische Dokumente verfassen. Wie Sicherheitsforscher von Check Point jetzt berichten, kann ChatGPT auch Malware entwickeln. In verschiedenen Cybercrime-Foren haben Mitglieder, teilweise ohne Programmiererfahrung, den Bot verwendet, um Spyware, Ransomware und Phishing-E-Mails zu schreiben.
Lesetipp: Google warnt vor neuen Spyware-Aktionen
Laut Check Point steht es noch in den Sternen, ob ChatGPT das neue Tool der Wahl für Cyber-Akteure wird. Die Cyberkriminellen-Community hat jedoch bereits großes Interesse an den Funktionen gezeigt.
Um mehr darüber zu erfahren, wie ChatGPT ausgenutzt wird, haben Sicherheitsforscher den KI-Bot selbst befragt und folgende Antwort erhalten:
Das Forschungsteam von Check Point hat die KI von OpenAI befragt, wie sie von Cyberkriminellen ausgenutzt wird Foto: Check Point
Es sei nicht ungewöhnlich, dass Bedrohungsakteure künstliche Intelligenz und maschinelles Lernen für ihre böswilligen Aktivitäten ausnutzen, schreibt der Chatbot. Zuerst würden sie ChatGPT verwenden, um den Sprachstil eines Unternehmens zu lernen, und dann überzeugende Phishing-Nachrichten oder Social-Media-Posts erstellen. Andererseits könnten Kriminelle den Algorithmus verwenden, um Audio- und Videodateien zu erstellen, die für Desinformationskampagnen verwendet werden könnten, um die öffentliche Meinung zu manipulieren.
ChatGPT betont jedoch, dass OpenAI nicht für den Missbrauch der Technologie durch Dritte verantwortlich ist. Das Unternehmen ergreift Maßnahmen, um den Missbrauch seiner Technologie zu verhindern, einschließlich der Forderung, Nutzungsbedingungen zu akzeptieren, die die Verwendung der Software für illegale oder schädliche Zwecke verbieten.
Sergey Shykevich, Manager der Threat Intelligence Group von Check Point, warnt jedoch vor KI-Fähigkeiten: „ChatGPT hat das Potenzial, die Cyber-Bedrohungslandschaft erheblich zu verändern.“ Es ist jetzt sehr einfach, schädliche E-Mails und Codes zu generieren. Jeder mit minimalen Ressourcen kann das Tool verwenden. Hierfür sind keine Softwareentwicklungskenntnisse erforderlich.
Obwohl sich ChatGPT noch in der Testphase befindet, macht es seit dem Start des Bots im November 2022 Schlagzeilen. Die KI wird hoch gelobt, weil sie Gespräche besonders realistisch simuliert, indem sie den Kontext aller Gespräche in ihre Antworten einbezieht.
OpenAI wurde 2015 unter anderem von Elon Musk gegründet, der dem Unternehmen 2018 den Rücken kehrte, weil er einen Interessenkonflikt befürchtete. Gleichzeitig entwickelte Tesla auch künstliche Intelligenz. Microsoft gehört mittlerweile zu den Investoren von OpenAI und plant Medienberichten zufolge, KI in Office-Anwendungen und dessen Bing-Suche zu integrieren.
Diskutiert wird auch, ob die Software dem Suchmaschinengiganten Google ernsthaft Konkurrenz machen könnte, da sie Fragen nicht nur treffsicher und kontextbezogen beantwortet, sondern auch Fehler zugibt und sich selbst verbessert.
Andererseits kommt ChatGPT bei vielen Kritikern auch nicht gut weg. Sie bemängeln, dass die Software es Cyberkriminellen nicht nur leichter mache, sondern auch das Schummeln und Schummeln bei Schularbeiten, Uni-Prüfungen oder sogar Doktorarbeiten ermögliche. Einer der schärfsten Kritiker ist der Ökonom und Risikokapitalgeber Paul Kedrosky. In einem inzwischen gelöschten Twitter-Beitrag schrieb er laut TechCrunch: „Schande über OpenAI, dass es diese uneingeschränkte Atombombe auf eine unvorbereitete Gesellschaft losgelassen hat.“ Er forderte die sofortige Abschaltung von ChatGPT und plädierte für strenge Auflagen bei einer Wiedereinführung.
Der Hype um KI geht vorerst weiter. Außerdem wird es ständig weiterentwickelt und jeden Tag mit neuen Daten angereichert und verbessert. Wenn Sie die Funktionen selbst sehen möchten, können Sie ChatGPT hier ausprobieren.
Melden Sie sich jetzt kostenlos für den CSO-Newsletter an