OpenAI hat gerade eine Bombe platzen lassen: Die KI des Unternehmens hat fast 1.000 Schwachstellen im Linux-Kernel gefunden. Dabei handelt es sich um dieselbe Codebasis, die seit Jahrzehnten ständig von der Open-Source-Community überprüft wird.
Das traditionelle Sicherheitsmodell beruhte auf dem Grundsatz „Viele Augen machen alle Fehler flach“ – Menschen überprüfen den Code, um Schwachstellen aufzuspüren. Das funktionierte, solange Angreifer im menschlichen Tempo vorgingen. Doch KI verändert dieses Kräfteverhältnis grundlegend.
Nathan Labenz (Moderator von AI:AM) argumentiert, dass dies beweist, dass KI technische Arbeit deutlich beschleunigen kann und dabei über das menschliche Ausgangsniveau hinausgeht. Das gilt unter anderem für:
• Sicherheitsprüfungen in großem Maßstab (offensichtlich)
• Effizienzoptimierung in Systemcode
• Das Finden konstruktiver Beweise oder Gegenbeispiele bei der formalen Verifikation
• Sogar die KI-Forschung selbst – bei der Suche nach Architekturen gibt es noch viele leicht erreichbare Fortschritte
Die Konsequenz: Wenn im Code auf Kernel-Ebene von Linux (buchstäblich dem am genauesten geprüften Open-Source-Projekt der Welt) 1.000 von KI auffindbare Fehler stecken, hat wahrscheinlich jede andere Codebasis noch viel mehr davon. Der Vorteil, den Verteidiger durch Open Source hatten, hat sich gerade ins Gegenteil verkehrt.
Es geht nicht darum, dass KI Entwickler ersetzt – vielmehr verändert KI Tempo und Tiefe technischer Analysen. Die Frage ist jetzt, ob Verteidiger KI-gestützte Sicherheit schneller ausbauen können, als Angreifer Schwachstellen ausnutzen.
Das traditionelle Sicherheitsmodell beruhte auf dem Grundsatz „Viele Augen machen alle Fehler flach“ – Menschen überprüfen den Code, um Schwachstellen aufzuspüren. Das funktionierte, solange Angreifer im menschlichen Tempo vorgingen. Doch KI verändert dieses Kräfteverhältnis grundlegend.
Nathan Labenz (Moderator von AI:AM) argumentiert, dass dies beweist, dass KI technische Arbeit deutlich beschleunigen kann und dabei über das menschliche Ausgangsniveau hinausgeht. Das gilt unter anderem für:
• Sicherheitsprüfungen in großem Maßstab (offensichtlich)
• Effizienzoptimierung in Systemcode
• Das Finden konstruktiver Beweise oder Gegenbeispiele bei der formalen Verifikation
• Sogar die KI-Forschung selbst – bei der Suche nach Architekturen gibt es noch viele leicht erreichbare Fortschritte
Die Konsequenz: Wenn im Code auf Kernel-Ebene von Linux (buchstäblich dem am genauesten geprüften Open-Source-Projekt der Welt) 1.000 von KI auffindbare Fehler stecken, hat wahrscheinlich jede andere Codebasis noch viel mehr davon. Der Vorteil, den Verteidiger durch Open Source hatten, hat sich gerade ins Gegenteil verkehrt.
Es geht nicht darum, dass KI Entwickler ersetzt – vielmehr verändert KI Tempo und Tiefe technischer Analysen. Die Frage ist jetzt, ob Verteidiger KI-gestützte Sicherheit schneller ausbauen können, als Angreifer Schwachstellen ausnutzen.