Experten für Informationssicherheit berichteten von einem beispiellosen Vorfall: Künstliche Intelligenz führte erstmals eigenständig eine vollständige Cyberattacke durch, die alle wichtigen Phasen umfasste – vom Auffinden von Schwachstellen und dem Eindringen in die Infrastruktur bis hin zur Verschlüsselung von Daten und der Erstellung von Lösegeldforderungen.
Der Vorfall wurde am Dienstag, dem 7. Juli, von Spezialisten des Unternehmens Sysdig entdeckt. Nach Angaben der Forschenden konnte ein bösartiger KI-Agent mit dem Namen JADEPUFFER eine komplexe Operation nahezu ohne menschliches Zutun ausführen. Das System analysierte die umgebende Infrastruktur selbständig, identifizierte Schwachstellen in der Absicherung, erhielt Zugriff auf interne Ressourcen und führte Aktionen aus, die zuvor eine ständige Kontrolle durch Angreifer erfordert hatten.
Laut Angaben der Fachleute begann der Angriff mit der Ausnutzung einer kritischen Schwachstelle, CVE-2025-3248, im Open-Source-Framework Langflow, das zur Erstellung von Anwendungen auf Basis großer Sprachmodelle verwendet wird. Die Schwachstelle erhielt die maximale Bewertung von 10,0 auf der CVSS-3.1-Skala und ermöglichte die remote Ausführung von Programmcodes ohne vorherige Authentifizierungsprüfung des Benutzers.
Nachdem der Zugriff auf den Server erlangt worden war, begann die künstliche Intelligenz mit der eigenständigen Untersuchung der digitalen Umgebung. Der Agent analysierte die verfügbaren Ressourcen, untersuchte die Systemstruktur und sammelte die Daten, die für die weitere Ausbreitung innerhalb der Infrastruktur erforderlich waren. Im Verlauf der Operation JADEPUFFER fand der Agent Zugangsdaten und Zugriffsschlüssel zu Cloud-Plattformen verschiedener Anbieter, darunter Alibaba Cloud, Tencent Cloud und Huawei Cloud.
Außerdem konnte das Programm Konfigurationsdateien finden, Informationen über Benutzer sowie Daten, die mit Kryptowährungs-Wallets zusammenhingen. Die erhaltenen Informationen ermöglichten es dem Agenten, den Angriff fortzusetzen und die Kontrolle über die kompromittierte Infrastruktur auszubauen.
Als besonders aussagekräftig nannten die Experten die Fähigkeit der KI, sich an ungewöhnliche Situationen anzupassen. Während der Untersuchung des MinIO-Objektspeichers stieß der Agent auf unerwartete Antwortformate des Systems. Anstatt den Vorgang abzubrechen, änderte das Programm den Datenverarbeitungsalgorithmus eigenständig und schrieb in nur 31 Sekunden das erforderliche Szenario neu, bevor es mit der Aufgabe fortfuhr.
Um seine Präsenz innerhalb des Netzwerks zu festigen, schuf JADEPUFFER einen Mechanismus für die automatische Verbindung mit dem Steuerserver. Die Aufgabe startete alle 30 Minuten und stellte so eine fortlaufende Verbindung mit der angreifenden Infrastruktur sicher.
Als nächster Schritt folgte der Angriff auf einen Produktionsserver, auf dem die MySQL-Datenbank und die Konfigurationsverwaltungsplattform Alibaba Nacos eingesetzt wurden. Mithilfe der gefundenen Sicherheitslücken und standardmäßiger Zugangsschlüssel erlangte der KI-Agent die Kontrolle über das System und erstellte ein verstecktes Administratorkonto.
Danach begann die finale Phase des Angriffs. Die künstliche Intelligenz verschlüsselte 1342 Konfigurationselemente von Nacos, löschte einen Teil der ursprünglichen Tabellen und bereinigte den Verlauf der Journalprotokolle. Auf dem infizierten System erschien eine Meldung mit der Aufforderung, Lösegeld in Bitcoins zu zahlen.
Allerdings zeigte die Analyse eine ungewöhnliche Einzelheit: Der Verschlüsselungsschlüssel wurde zufällig erstellt und in der Konsole nur einmal angezeigt, ohne eine Sicherungskopie anzulegen. Das bedeutete, dass selbst nach der Zahlung des Lösegelds die Wiederherstellung der Daten nahezu unmöglich blieb.
Im Zuge der Untersuchung dokumentierten die Fachleute mehr als 600 aufeinanderfolgende Aktionen, die von einem autonomen Agenten ausgeführt wurden. Ein weiteres Indiz für die Eigenständigkeit der Operation waren die Eigenschaften des Programmcodes: Darin befanden sich ausführliche Kommentare in natürlicher Sprache, die die Logik der Handlungen erklärten, sowie typische Fehler und Unstimmigkeiten, wie sie häufig bei der Codegenerierung durch künstliche Intelligenz auftreten.
Die Forscher machten außerdem darauf aufmerksam, dass in der Löseforderung eine Bitcoin-Wallet verwendet wurde, die zuvor nur in technischen Beispielen und Dokumentationen aufgetaucht war. Gleichzeitig wurden die Angaben des Agents, die gestohlenen Daten auf einen externen Server kopiert zu haben, nicht bestätigt — Anzeichen für eine tatsächliche Übermittlung der Informationen konnten nicht festgestellt werden.
Obwohl keine nachgewiesene Datenabflutung belegt werden konnte, betrachten Fachleute diesen Fall als wichtige Warnung für die gesamte Cybersecurity-Branche. Der Angriff JADEPUFFER zeigte, dass moderne KI-Systeme in der Lage sind, komplexe mehrstufige Operationen selbständig auszuführen, Fehler schnell zu beheben und die Vorgehensstrategie ohne direkte menschliche Steuerung zu ändern.
Besondere Aufmerksamkeit erregte die Geschwindigkeit des Agents: Die Analyse der Ursachen für fehlgeschlagene Aktionen dauerte weniger als eine Minute, und die Anpassung an neue Bedingungen erfolgte praktisch augenblicklich. Nach Ansicht der Fachleute zeigen solche Vorfälle, dass die Entwicklung autonomer KI-Tools zur Entstehung einer neuen Generation von Cyberbedrohungen führen kann, bei der Geschwindigkeit und Umfang der Angriffe die Möglichkeiten traditioneller Schutzmethoden deutlich übertreffen.
