Drei Personen, die mit den vertraulichen Gesprächen vertraut sind, sagen, Anthropic habe Abgeordneten auf dem Capitol Hill einen Gesetzentwurf zur Sicherheit fortschrittlicher KI-Systeme vorgelegt. Dem Vernehmen nach erlaubt der Gesetzentwurf der US-Regierung, ein Modell zu blockieren, wenn es eine klare und unmittelbar drohende Gefahr von mindestens 50 Opfern oder finanziellen Schäden in Höhe von 1 Milliarde US-Dollar darstellt.

Konkret muss das Risiko mit einem Cyberangriff, der Herstellung oder dem Einsatz biologischer Waffen oder einem Modell zusammenhängen, das die Sicherheitsvorkehrungen seines Entwicklers erfolgreich umgangen hat.

In den vergangenen Monaten haben führende KI-Entwickler mehrere Fälle eingeräumt, in denen KI-Agenten Online-Plattformen gehackt oder deren Abwehrmaßnahmen getestet haben. Glücklicherweise führten keine dieser frühen Sicherheitsverletzungen zu weitreichenden Todesfällen oder katastrophalen finanziellen Verlusten.

Die vorgeschlagenen Beschränkungen würden stärker darauf abstellen, wozu fortgeschrittene KI-Systeme in der Praxis fähig sind, statt sich allein auf Sicherheitszusagen ihrer Entwickler zu verlassen. Da Modelle immer besser darin werden, Code zu schreiben, Software-Schwachstellen aufzuspüren und komplexe Aufgaben autonom auszuführen, stehen Regulierungsbehörden vor der Herausforderung festzustellen, wann die Fähigkeiten eines Systems die Schwelle zu einem unvertretbaren Risiko überschreiten.

Unabhängige Tests könnten helfen festzustellen, ob ein Modell Schutzmaßnahmen umgehen oder für schädliche Aktivitäten missbraucht werden kann, bevor es einem größeren Publikum zugänglich gemacht wird. Es bleibt jedoch schwierig, eine unmittelbar drohende Gefahr zu definieren – insbesondere, wenn dieselben Fähigkeiten, die Sicherheitsrisiken bergen, Forschenden auch dabei helfen können, Schwachstellen zu erkennen und zu beheben.

Anthropics Gesetzentwurf sieht vor, dass ein Bundesrichter die Aussetzung eines Modells anordnen kann

Zur Verteidigung des Gesetzentwurfs erklärte ein Sprecher von Anthropic, dieser entspreche den Sicherheitsempfehlungen im Advanced AI Framework des Unternehmens, das im Juni veröffentlicht wurde.

In diesem Rahmenwerk hatte das Unternehmen darauf hingewiesen, dass sein Claude Mythos Preview bereits Tausende schwerwiegender Schwachstellen aufgedeckt habe, die alle großen Betriebssysteme und Webbrowser beträfen. Damals betonte es, dass sich diese Entwicklung zwangsläufig beschleunigen werde und damit das Risiko katastrophaler Schäden in der realen Welt weiter steige.

Zudem sprach sich das Unternehmen für einen ausgewogenen Regulierungsansatz aus, der staatliche Eingriffe ermöglicht, ohne Innovationen auszubremsen. Zugleich hielt es daran fest, dass Regulierungsbehörden bei extrem gefährlichen KI-Modellen über die besondere gesetzliche Befugnis verfügen müssen, sie zu blockieren oder hohe, an den weltweiten Umsatz gekoppelte Geldstrafen zu verhängen, die sich bei wiederholten Verstößen erhöhen.

Bislang hat sich Anthropic nicht öffentlich für bestimmte Bundesgesetze ausgesprochen, die im Kongress beraten werden. Das Unternehmen hat jedoch einige KI-Sicherheitsgesetze auf Ebene der Bundesstaaten unterstützt – darunter mehrere in Kalifornien, etwa SB 53.

Dieses Gesetz, das im vergangenen Jahr verabschiedet wurde, verpflichtet Unternehmen dazu, Sicherheitsrahmenwerke zu erstellen und weiterzugeben und gleichzeitig daran zu arbeiten, große Risiken einzudämmen. Außerdem müssen sie dem Bundesstaat schwerwiegende Sicherheitsvorfälle innerhalb von 15 Tagen melden.

Nach Anthropics Vorschlag würden unabhängige Prüfer, die beim Handelsministerium registriert sind, die Labore und Modelle des Unternehmens regelmäßig testen. Die Labore dürften diese Prüfungen finanzieren, die Vergütung dürfte jedoch nicht von den Ergebnissen der Prüfer abhängen. Darüber hinaus müsste jede Feststellung eines „unmittelbar bevorstehenden, gesetzlich definierten Risikos“ den Bundesbehörden innerhalb von 72 Stunden nach Abschluss der Prüfung gemeldet werden.

Stellt das Handelsministerium anschließend fest, dass ein Modell ein Risiko darstellt, kann es einen Richter ersuchen, dessen Veröffentlichung zu blockieren. Die Bestimmung untersagt jedoch jeder anderen US-„Abteilung, Behörde oder Amtsperson“, die Entwicklung, den Einsatz oder die interne Nutzung des Modells zu verhindern. Ein Bundesrichter im District of Columbia ist dennoch befugt, eine solche Aussetzung anzuordnen.

Die FTC hat OpenAI und Anthropic Vorladungen zugestellt

Am Mittwoch stellte die Federal Trade Commission OpenAI und Anthropic zivilrechtliche Vorladungen zu und forderte Unterlagen zu Sicherheitsvorfällen an, die für die Branche zunehmend zu einer Krise werden. OpenAI reagierte auf die Vorladung mit den Worten: „Während wir unsere Modelle verbessern und sie den Menschen zunehmend im Alltag helfen, bleibt Sicherheit eine oberste Priorität. Wir werden konstruktiv mit der FTC zusammenarbeiten.“

Eine Quelle gab bekannt, dass die Behörde ihre Vorladungsbefugnis in naher Zukunft auch auf Drittparteien ausweiten will. Die Regulierungsbehörde könnte Führungskräfte von Anthropic und OpenAI zwingen, öffentlich auszusagen. Das würde den Abgeordneten eine Gelegenheit bieten, die Tech-Giganten zu Sicherheitsfragen zur Rede zu stellen, während die öffentliche Angst vor möglichen Folgen wächst.

Laut einer aktuellen Umfrage des Associated Press-NORC Center for Public Affairs Research ist fast zwei Drittel der Erwachsenen in den USA der Ansicht, dass sich KI zu schnell entwickelt. Acht von zehn Befragten betonten außerdem, wie wichtig staatliche Maßnahmen sind, um die Technologie unter menschlicher Kontrolle zu halten.

Bislang hat Präsident Trump Forderungen nach einer langsameren Entwicklung von KI weiterhin zurückgewiesen und dabei auf die Bedeutung der Technologie für die strategischen Interessen der USA verwiesen. Kürzlich kündigte er eine „Super Intelligence Force“ an, die die Bemühungen der Bundesregierung im Bereich KI koordinieren und zugleich den Austausch mit Verbrauchern, Organisationen im öffentlichen Interesse und anderen Beteiligten aufrechterhalten soll.

Wenn Sie das hier lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie es – mit unserem Newsletter.