In der sich ständig weiterentwickelnden Landschaft der Cybersicherheit wirft das Aufkommen generativer KI, insbesondere von Dark-Web-Varianten wie WormGPT, einen düsteren Schatten auf die Wirksamkeit traditioneller Abwehrmechanismen. Das Potenzial für Cyberkriminelle, diese Technologie für die Orchestrierung von Phishing-Angriffen in beispiellosem Ausmaß auszunutzen, gibt Anlass zur Sorge um die Zukunft der Cybersicherheit von Unternehmen.
Die Schnittstelle zwischen generativer KI und Phishing stellt für Cybersicherheitsexperten eine gewaltige Herausforderung dar. Cyberkriminelle Organisationen nutzen große Sprachmodelle (LLMs) wie WormGPT, um die Erstellung äußerst überzeugender Phishing-E-Mails zu automatisieren. Diese KI-generierten E-Mails, die mit einem teuflischen Gespür für Manipulation ausgestattet sind, stellen eine doppelte Bedrohung dar, da sie sowohl Skalierbarkeit als auch Präzision vereinen – eine Leistung, die mit herkömmlichen Methoden nicht zu erreichen ist.
Die Experimente des Cybersicherheitsberaters Daniel Kelley mit WormGPT zeigten, dass es mit nur einer einzigen Eingabeaufforderung einen dringenden und überzeugenden Angriffstext für Business Email Compromise (BEC) erstellt. Die Demokratisierung ausgefeilter Angriffe, so Kelley, unterstreicht die Notwendigkeit erhöhter Wachsamkeit angesichts dieses „nuklearen Moments“ in der Cybersicherheit von Unternehmen.
Abwehr des AI-Phishing-Angriffs
Angesichts der steigenden Zahl an Phishing-Vorfällen stellt sich die Frage: Wie können sich Unternehmen gegen KI-generierte Phishing-E-Mails schützen? Henry Ajder, Experte für generative KI, betont, wie wichtig es ist, kontextbezogene Hinweise in Nachrichten zu erkennen. Zwar kann KI die Anzahl gut gestalteter Phishing-E-Mails erhöhen, doch diese Nachrichten enthalten immer noch Anzeichen von Betrug, wie etwa unbegründete Dringlichkeit oder verdächtige Absenderadressen.
Ajder schlägt eine Rückkehr zu den Grundlagen der digitalen Hygienesicherheit vor und fordert Unternehmen auf, das Bewusstsein der Mitarbeiter durch rigorose Cybersicherheitsschulungen zu stärken. Die Herausforderung besteht jedoch darin, zwischen KI-generierten Inhalten und von Menschen verfassten Nachrichten zu unterscheiden, insbesondere wenn Mitarbeiter routinemäßig KI-Modelle zur E-Mail-Optimierung verwenden.
Generative KI beschleunigt Vishing-Angriffe
Neben E-Mails ist Vishing (Voice Phishing) ein weiteres Schlachtfeld, auf dem KI Cyberangriffe beschleunigen soll. Die Raffinesse von Audio-Deepfakes hat neue Höhen erreicht, und Plattformen wie Spotify und Microsoft bieten Tools an, die Stimmmuster überzeugend nachahmen. Angesichts dieser wachsenden Bedrohung ist es von größter Bedeutung, Mitarbeiter darin zu schulen, bei Sprachanrufen kontextuelle Hinweise zu erkennen, und sichere Rahmenbedingungen für Geldtransfers zu implementieren.
Sage Wohns unterstreicht die potenziellen Risiken von Vishing-Angriffen und verweist auf den jüngsten Cyberangriff auf MGM Resorts, der durch einen Vishing-Angriff ausgelöst wurde. Da KI-gesteuerte Sicherheitsverletzungen immer häufiger vorkommen, plädiert Wohns für die Entwicklung von Erkennungsmechanismen für Audio-Deepfakes und fordert CISOs auf, diesem Aspekt der Cybersicherheit Priorität einzuräumen. Er betont, dass Unternehmen ohne robuste Abwehrmaßnahmen gegen Audio-Deepfakes Gefahr laufen, Opfer raffinierter Angriffe zu werden, die die Schwachstellen in sprachbasierten Kommunikationssystemen ausnutzen.
Das Urteil zu KI-gestützten Phishing-Kampagnen
Obwohl die Bedrohung durch KI-generierte Phishing-Kampagnen groß ist, herrscht weiterhin Skepsis hinsichtlich ihres derzeitigen Ausmaßes. Der Cybersicherheitsberater Daniel Kelley und der Experte für generative KI Henry Ajder äußern Bedenken und weisen auf einen Mangel an konkreten Beweisen in offenen Quellen hin. Trotz der Behauptungen einiger Anbieter spiegelt der öffentliche Diskurs um KI-gestütztes Phishing die frühen Diskussionen über Deepfakes wider, was darauf hindeutet, dass Organisationen möglicherweise mehr Zeit zur Vorbereitung haben als zunächst angenommen.
Die Verbindung von generativer KI und Cyberkriminalität stellt eine erhebliche Herausforderung für die Cybersicherheit von Unternehmen dar. Der Anstieg von KI-generierten Phishing-E-Mails und das Potenzial für hochgradige Vishing-Angriffe erfordern eine Neubewertung der Verteidigungsstrategien. Während sich Unternehmen in dieser sich entwickelnden Landschaft zurechtfinden, wird ein Gleichgewicht zwischen KI-gestützter Innovation und traditionellen Cybersicherheitsmaßnahmen entscheidend, um den Cyberbedrohungen immer einen Schritt voraus zu sein.
