Ein Black-Hat-Hacker veröffentlichte eine bösartige Version von OpenAIs ChatGPT, bekannt als WormGPT, und startete damit dann einen effektiven E-Mail-Phishing-Angriff auf Tausende von Opfern.
Laut einem Bericht des Cybersicherheitsunternehmens SlashNext basiert WormGPT auf dem von EleutherAI entwickelten großen Sprachmodell 2021 GPTJ und ist für böswillige Aktivitäten konzipiert. Zu den Funktionen gehören unbegrenzte Zeichenunterstützung, Erhaltung des Chat-Speichers und Codeformatierung, und WormGPT wurde auf Malware-bezogene Datensätze trainiert.
Cyberkriminelle nutzen WormGPT nun, um eine Art Phishing-Angriff zu starten, der als Business Email Compromise (BEC)-Angriff bekannt ist.
„Der Unterschied zu WormGPT besteht darin, dass ChatGPT über Leitplanken verfügt, um illegale oder schändliche Anwendungsfälle zu verhindern“, sagte David Schwed, Chief Operating Officer des Blockchain-Sicherheitsunternehmens Halborn, gegenüber Reportern. „WormGPT verfügt nicht über diese Leitplanken, Sie können also darum bitten, es zu entwickeln.“ Schadsoftware für Sie.
Phishing-Angriffe gehören zu den ältesten, aber häufigsten Formen von Cyberangriffen und werden häufig unter einem Pseudonym per E-Mail, SMS oder Social-Media-Beitrag durchgeführt. Bei geschäftlichen E-Mail-Kompromittierungsangriffen geben sich Angreifer als Führungskräfte oder Mitarbeiter eines Unternehmens aus, um die Zielpersonen dazu zu verleiten, Geld oder vertrauliche Informationen zu versenden.
Dank der rasanten Fortschritte in der generativen künstlichen Intelligenz können Chatbots wie ChatGPT oder WormGPT überzeugende, menschenähnliche E-Mails schreiben, wodurch betrügerische Nachrichten schwerer zu erkennen sind.
SlashNext sagte, dass Technologien wie WormGPT die Schwelle für die Durchführung effektiver BEC-Angriffe senken und es so weniger erfahrenen Angreifern ermöglichen, einen größeren Pool potenzieller Cyberkrimineller zu schaffen.
Um geschäftliche E-Mail-Kompromittierungsangriffe zu verhindern, empfiehlt SlashNext Unternehmen, eine erweiterte E-Mail-Verifizierung zu verwenden, einschließlich automatischer Warnungen für E-Mails, die sich als Insider ausgeben, und die Kennzeichnung von E-Mails mit Schlüsselwörtern wie „dringend“ oder „Überweisung“, die oft mit BEC in Verbindung gebracht werden.
Da die Bedrohung durch Cyberkriminelle immer größer wird, suchen Unternehmen ständig nach Möglichkeiten, sich und ihre Kunden zu schützen.
Im März dieses Jahres brachte Microsoft, einer der größten OpenAI-Investoren und der Erfinder von ChatGPT, ein sicherheitsorientiertes generatives KI-Tool namens Security Copilot auf den Markt. Security Copilot nutzt künstliche Intelligenz, um die Cybersicherheitsabwehr und die Bedrohungserkennung zu verbessern.
„In einer Welt, in der jede Sekunde 1.287 Passwortangriffe stattfinden, reichen fragmentierte Tools und Infrastruktur nicht aus, um Angreifer zu stoppen“, sagte Microsoft in einer Erklärung. „Während die Angriffe in den letzten fünf Jahren um 67 % zugenommen haben, kann die Sicherheitsbranche nicht genug Cyberangriffe einstellen.“ Risikoprofis müssen mithalten.“