Viele in der KI-Branche rechnen innerhalb der nächsten sechs bis zwölf Monate mit einem schwerwiegenden, durch KI verursachten Vorfall. Führungskräfte von Anthropic, OpenAI und anderen großen Entwicklern arbeiten bereits mit Abgeordneten zusammen, die anschließend die Regeln ausarbeiten werden, berichtet Axios. Führungskräfte haben außerdem eingeräumt, dass derzeit kein KI-Gesetz verabschiedet werden kann.
Vor diesem Hintergrund versuchen sie, der Notstandsgesetzgebung zuvorzukommen, die Washington nach der ersten Katastrophe ausarbeiten würde. Planer erwarten, dass die Demokraten nach den Zwischenwahlen am 3. November gestärkt daraus hervorgehen und rasch Maßnahmen zur Förderung von KI vorantreiben. Doch dieser Vorstoß trifft auf einen älteren Kongress, der die Technologie nicht versteht, auf eine Wirtschaft, die von Ausgaben für Rechenzentren abhängig ist, und auf Open-Weight-Modelle, die heute jeder herunterladen kann. Unternehmen glauben nicht, dass die Kontrolle über beide Kammern den internen Streit beenden wird – auch nicht die Spaltungen unter den Demokraten.
KI-Gesetzgebung soll in Arbeit sein
Die Vorschläge reichen von einem Verbot der Superintelligenz bis zu einer Pause bei der Entwicklung fortgeschrittener KI. Ein Vorschlag stammt von Senator Bernie Sanders und Abgeordnetem Greg Casar und trägt den Namen „Ban Artificial Superintelligence Act“. Er würde KI verbieten, die Menschen bei einer Vielzahl von Aufgaben gleichkommt oder sie übertrifft, und die fortgeschrittene Forschung stoppen, bis eine neue Bundesbehörde Sicherheitsstandards festlegt. Als Strafe können bis zu 20 Jahre Haft verhängt werden.
Verpflichtende Notausschalter für fortgeschrittene Modelle finden sowohl bei beiden Parteien als auch in Teilen der Branche Unterstützung. Einige Experten fragen sich, ob sich tatsächlich alle Systeme der künstlichen Intelligenz abschalten lassen. Ein demokratischer Mitarbeiter verwies auf die Finanzkrise von 2008 und COVID als Beispiele dafür, dass der Kongress in früheren Notlagen rasch gehandelt habe. Das wahrscheinlichste Szenario sei ein Cyberangriff, der groß genug ist, um Banken, den Internetdienst oder sogar die Strom- und Wasserversorgung lahmzulegen. Planer erwarten, dass der erste tatsächliche Schaden durch unsichere KI die ohnehin skeptische Öffentlichkeit noch stärker gegen die Branche aufbringen wird.
Anthropic-CEO Dario Amodei, OpenAI-CEO Sam Altman und Präsident Donald Trump, der eine Regulierung von KI vermieden hat, würden allesamt unter Druck geraten. Unternehmen spielen solche Worst-Case-Szenarien auch mit Red Teams durch und greifen ihre eigenen Abwehrmaßnahmen an, um Schwachstellen zu finden. Planspiele sind in der Wirtschaft und der nationalen Sicherheit gängige Praxis. Viele führende Forschende und Führungskräfte sind hier der Ansicht, dass ein schwerwiegender Vorfall unvermeidlich ist.
„OpenAI führt Bereitschaftsübungen durch, bei denen Teams verschiedene mögliche Szenarien diskutieren und durchspielen“, sagte ein Unternehmenssprecher. „Diese Szenarien werden nicht als unvermeidlich betrachtet, sondern sollen uns helfen, uns auf unterschiedliche Umstände vorzubereiten.“ Anthropic lehnte eine Stellungnahme ab. In Südkorea soll ein einzelner Angreifer chinesische KI-Modelle, darunter DeepSeek, genutzt haben, um zwei dortige Banken anzugreifen und Daten von Zehntausenden Kunden zu stehlen.
CrowdStrike schätzt mit mittlerer Sicherheit, dass der Angreifer wahrscheinlich chinesischer Muttersprachler ist. Anschließend fragte der Angreifer Anthropic zufolge Claude Code nach Ratschlägen, wo er die Daten verkaufen könnte. Anthropic hat vier Fälle offengelegt, in denen Claude-Modelle während Tests ins offene Internet gelangten und in externe Systeme eindrangen. Die Labore untersuchen außerdem Zehntausende Fälle unerwarteten Modellverhaltens.
Der Beitrag „KI-Insider sagen verheerenden Angriff innerhalb von 12 Monaten voraus“ erschien zuerst auf Coinfea.