Die Google Threat Intelligence Group (GTIG) erklärte, sie habe erstmals Angreifer identifiziert, die Frameworks für große KI-Sprachmodelle (LLMs) einsetzen, um die Suche nach Software-Schwachstellen und deren Ausnutzung ohne schrittweise menschliche Anleitung zu automatisieren.

In einem am Montag veröffentlichten Bericht beschrieben die Forschenden ein auf einem öffentlich zugänglichen Staging-Server gefundenes Tool, das Softwareversionen verglich, potenzielle Schwachstellen identifizierte sowie Exploit-Code generierte und ausführte.

„Im vergangenen Quartal identifizierte GTIG erstmals Bedrohungsakteure, die LLM-Frameworks nutzten, um die Suche nach Schwachstellen und deren Ausnutzung vollständig zu automatisieren – ohne menschliches Eingreifen“, erklärten die Forschenden.

GTIG identifizierte einen ungeschützten Staging-Server, auf dem ein Multi-Agenten-Framework zur Schwachstellenforschung und Entwicklung von Exploits gehostet wurde. Es war darauf ausgelegt, kontinuierlich Code vor und nach Patch-Ankündigungen beliebter Webanwendungen durch differentielle Analyse zu vergleichen. Das Modell sollte Software-Schwachstellen autonom entdecken und ausnutzen.

Google warnte, dass diese automatisierten Workflows Unternehmen weniger Zeit lassen, Sicherheitspatches einzuspielen, bevor Angreifer Möglichkeiten entwickeln, anfällige Systeme auszunutzen.

In seinem Bericht vom September erklärte GTIG, man habe „noch nicht beobachtet, dass Bedrohungsakteure vollständig autonome Pipelines gegen Ziele in freier Wildbahn einsetzen“.

Entwicklung der Nutzung von LLMs für Exploits durch Bedrohungsakteure. Quelle: Google

KI-Agenten verkürzen Zeitfenster für Patches

Angreifer nutzen Frameworks für KI-Agenten, um das Reverse Engineering von Patches mithilfe differentieller Analyse zu automatisieren und N-Day-Schwachstellen – öffentlich bekannte Sicherheitslücken – als Waffen einzusetzen.

Der Bericht warnte, dass LLMs Angreifer in die Lage versetzen, „Exploit-Pipelines gegen Server mit Internetzugriff ohne menschliches Eingreifen zu skalieren“. 

Laut Google hat sich die Zahl der Offenlegungen von Schwachstellen zwischen Januar und August mehr als verdoppelt. 2025 wurden durchschnittlich acht Zero-Day-Schwachstellen pro Monat ausgenutzt, von Januar bis August 2026 waren es elf pro Monat. Im August stieg die Zahl auf 22.

Anzahl der ausgenutzten Schwachstellen, aufgeschlüsselt nach N-Day- und Zero-Day-Schwachstellen, Januar 2025 bis August 2026. Quelle: Google

Diese automatisierten Workflows beschleunigen auch den Übergang von Angreifern vom ersten Zugriff bis zum Erwerb von Domänenadministratorrechten. Der Bericht verwies auf eine PaperCut-Kampagne im August 2026, bei der Angreifer laut dem Cybersicherheitsunternehmen GreyNoise innerhalb weniger Minuten diese Kontrolle erlangten.

Cloudflare meldete im Oktober ebenfalls Versuche, die PHP-Schwachstellen bei seinen Kunden auszunutzen. Laut Bericht erklärte GTIG, dass die beiden PHP-Schwachstellen, auf die sich die Ausnutzungsversuche richteten, mithilfe einer LLM-Analyse entdeckt wurden. Technische Informationen, die vor dem Patch vom 21. Oktober veröffentlicht wurden, ermöglichten Forschern und Angreifern, die Schwachstellen zu untersuchen und Exploits auszuprobieren. 

Auch das KI-Unternehmen Anthropic warnte in einem Bericht vom September, dass sich KI-gestützte Angriffe zu Multi-Agenten-Operationen entwickelt haben, die den Großteil des Cyberangriffszyklus automatisieren – von der Entdeckung bis zur Ausnutzung von Schwachstellen und zum Datendiebstahl.

Anthropic beschrieb Bedrohungsakteure, die „Multi-Opfer-Kampagnen mit agentischer KI durchführen, für die zuvor Teams von Operatoren nötig gewesen wären“. 

Magazin: Wie aus einer Nachricht mit einer „falschen Nummer“ ein Krypto-Betrug im Wert von 3,4 Millionen Dollar wurde