Die KI-generierte Cyberkriminalität breitet sich rasant aus. Beschleunigt wird dies durch die Einführung mehrerer neuer Tools im Darknet, nicht zuletzt durch die Entdeckung von WormGPT im letzten Monat. Dies geht aus einem am Dienstag veröffentlichten Bericht des Cybersicherheitsunternehmens SlashNext hervor.
WormGPT und FraudGPT, die eine Woche später veröffentlicht wurden, sind nur die Spitze des Eisbergs bei der Entwicklung von Tools für künstliche Intelligenz, die Cyberkriminelle gegen ihre Opfer einsetzen wollen, so SlashNext. FraudGPT allein wurde mit der Fähigkeit entwickelt, Phishing-Betrugs-Webseiten zu erstellen, Schadcode zu schreiben, Hacking-Tools zu erstellen und Betrugsbriefe zu verschicken.
Die Forscher von SlashNext gaben an, dass sie per Telegram mit einer Person namens CanadianKingpin12 in Kontakt getreten seien, die unter einem Pseudonym firmierte.
„Während unserer Untersuchung haben wir die Rolle eines potenziellen Käufers übernommen, um CanadianKingpin12 und ihr Produkt FraudGPT genauer unter die Lupe zu nehmen“, sagte SlashNext. „Unser Hauptziel war es, zu beurteilen, ob FraudGPT WormGPT in Bezug auf technologische Fähigkeiten und Effektivität übertroffen hat.“
Das Team bekam mehr, als es erwartet hatte, denn der Verkäufer – während er FraudGPT vorführte – sagte, dass neue KI-Chatbots namens DarkBart und DarkBert kommen würden. Diese Chatbots, so CanadianKingpin12, werden über einen Internetzugang verfügen und sich in Googles Bilderkennungstechnologie Google Lens integrieren lassen, wodurch der Chatbot sowohl Text als auch Bilder senden könnte.
SlashNext weist darauf hin, dass DarkBert ursprünglich vom Datenanalyseunternehmen S2W als legitimes Instrument zur Bekämpfung der Internetkriminalität entwickelt wurde, Kriminelle die Technologie jedoch offensichtlich zweckentfremdet haben, um stattdessen Internetkriminalität zu begehen.
CanadianKingpin12 erklärte den Forschern, dass DarkBert sogar bei fortgeschrittenen Social-Engineering-Angriffen helfen, Schwachstellen in Computersystemen ausnutzen und andere Schadsoftware, darunter Ransomware, verbreiten könne.
„ChatGPT verfügt über Schutzmechanismen zum Schutz vor rechtswidrigen oder schändlichen Anwendungsfällen“, sagte David Schwed, Chief Operating Officer des Blockchain-Sicherheitsunternehmens Halborn, zuvor gegenüber Decrypt auf Telegram. „[WormGPT und FraudGPT] verfügen über diese Schutzmechanismen nicht, Sie können es also bitten, Malware für Sie zu entwickeln.“
Laut SlashNext war der Verkäufer gezwungen, seine Kommunikation auf verschlüsselte Messenger-Apps umzustellen, nachdem er aufgrund von Richtlinienverstößen aus einem Forum verbannt worden war. Konkret ging es dabei um den Versuch, über Online-Foren im öffentlichen „Clear Net“ Zugang zu FraudGPT zu verkaufen.
Das Clear Net oder Surface Web bezeichnet das allgemeine Internet, auf das Suchmaschinen zugreifen können. Im Allgemeinen wird das Darknet oder Darkweb nicht von Suchmaschinen indiziert und Darknet-Websites können normalerweise nicht über eine Google-Suche gefunden werden. Obwohl das Darkweb mit Cyberkriminellen und illegalen Online-Marktplätzen wie Silk Road in Verbindung gebracht wird, verlassen sich viele Benutzer – wie Journalisten oder politische Dissidenten – auf das Darkweb, um ihre Identität zu verschleiern und ihre Privatsphäre zu schützen.
Um sich gegen die rasante Entwicklung KI-generierter Cybercrime-Tools zu schützen, rät SlashNext Unternehmen, proaktiv bei der Schulung im Bereich Cybersicherheit vorzugehen und verbesserte Maßnahmen zur E-Mail-Verifizierung zu implementieren.
Während Cyberkriminelle KI nutzen, um fortschrittlichere Schadsoftware zu entwickeln, heißt es in einem separaten Bericht des Websicherheitsunternehmens Immunefi, dass Cybersicherheitsexperten bei der Verwendung von KI zur Bekämpfung von Cyberkriminalität nicht viel Erfolg haben. In dem Bericht heißt es, dass 64 % der befragten Experten sagten, der Chatbot von OpenAI biete „eingeschränkte Genauigkeit“, und 61 % sagten, ihm fehle das Fachwissen zur Identifizierung von Exploits.
„Obwohl es schwierig ist, die tatsächlichen Auswirkungen dieser Fähigkeiten genau abzuschätzen, kann man davon ausgehen, dass sie die Hürden für aufstrebende Cyberkriminelle senken werden“, sagte SlashNext. „Darüber hinaus unterstreicht die schnelle Entwicklung von WormGPT zu FraudGPT und jetzt DarkBERT in weniger als einem Monat den erheblichen Einfluss bösartiger KI auf die Cybersicherheits- und Cyberkriminalitätslandschaft.“