KI-Angriffsfähigkeiten brechen aus! Die Cybersicherheit steht an einem Scheideweg, die Zeit für Verteidiger ist nicht mehr viel

OpenAIs CEO Greg Brockman hat die interne Mission „Erfolgreiche Infiltration“ eines hauseigenen Großmodells in Hugging Face als ein Ereignis definiert, das im Bereich der Cybersicherheit eine Zäsur darstellt. Diese Vorfälle haben OpenAI außerdem vor Augen geführt: Sie haben die Angriffskraft hochmoderner KI-Modelle in realen Szenarien massiv unterschätzt. Noch besorgniserregender ist jedoch, dass die Angriffsfähigkeiten offener, quelloffener Modelle den Abstand zu den geschlossenen Top-Modellen mittlerweile auf nur noch wenige Monate reduziert haben.

Brockman bezeichnet die aktuelle Phase als „Zeitfenster für Verteidiger“. Er warnt Unternehmen: In den kommenden Monaten müssen sie AI-gestützte, automatisierte Sicherheitsabwehr in großem Umfang umsetzen. Sobald sich die KI-Angriffsfähigkeiten breit ausbreiten, wird das traditionelle Muster, bei dem Sicherheitslücken manuell entdeckt und behoben werden, vollständig nicht mehr mit dem Tempo der Angriffsiterationen Schritt halten können.

Er gibt Unternehmen einen konkreten Ansatz für die Praxis: Sicherheits-Teams mit KI-informativen Agents ausstatten, die Code und Infrastruktur-Konfiguration lesen, aktiv Schwachstellen scannen und beheben bzw. historische, aufgestaute Risiken bereinigen und die Sicherheitsprüfung in den gesamten Entwicklungsprozess integrieren. Wenn der Agent Risiken erkennt, kann er beim Erstellen von Reparatur-Patches und beim Durchführen von Tests helfen. Danach geht es von „von der Oberfläche aus lesen“ über das Fortschreiten von reinem Scan hin zu Alarmklassifizierung und begrenzter, automatisierter Reaktion—gefährliche Operationen bleiben jedoch weiterhin unter der endgültigen Entscheidungsbefugnis des Menschen.

OpenAI hat diese Lösung intern bereits umgesetzt: Die überwiegende Mehrheit der anfänglichen Sicherheitsalarme wird zunächst von der KI klassifiziert; das Modell prognostiziert bzw. simuliert fortlaufend potenzielle Angriffswege. Gleichzeitig arbeitet das Team an einer gezielten Schulung eines Spezialmodells, das „Code mit extrem hohem Sicherheitsniveau“ ausgeben kann—mit dem Ziel, einen Teil der Software-Sicherheitslücken bereits an der Quelle zu eliminieren.
#ai