US-Senator Bernie Sanders und der Abgeordnete Greg Casar haben den Ban AI Superintelligence Act eingebracht, der die Entwicklung superintelligenter KI dauerhaft verbieten und die Forschung zu fortgeschrittener KI aussetzen würde, bis eine neue Bundesbehörde Sicherheitsstandards und Prüfverfahren festlegt. Laut ChainCatcher sagte Sanders, große KI-Unternehmen bauten Technologien, die sie nicht vollständig verstehen oder zuverlässig kontrollieren.

Der Gesetzentwurf definiert Superintelligenz als KI-Systeme, die menschliche Fähigkeiten in vielen Aufgaben erreichen oder übertreffen können, oder die die menschliche Kontrolle untergraben, einschließlich eines Umsturzes der US-Regierung, und sagt, dass die Definition auch menschliches Niveau bei AGI umfasst. Er würde eine neue Behörde auf Kabinettsebene schaffen, um fortgeschrittene Modelle zu überwachen, die Entfernung gefährlicher Fähigkeiten zu beaufsichtigen und verbotene Systeme zu zerstören, während ein KI-Beratungsgremium wissenschaftliche und technische Hinweise geben würde.

Am selben Tag, an dem die Abrechnung angekündigt wurde, veröffentlichte OpenAI GPT-6 Astra. Greg Brockman sagte, er glaube persönlich, dass das Modell die Definition von AGI erfüllen könnte. OpenAI erklärte, Astra sei sein erstes Modell, das eine „kritische“ Cybersicherheits-Fähigkeitsschwelle erreicht habe, und könne unbekannte Schwachstellen in geschützten Systemen entdecken und ausnutzen, ohne dass es einer Schritt-für-Schritt-Anleitung durch Menschen bedarf. Das Unternehmen sagte, dass seine stärksten Cybersicherheitsfähigkeiten auf ausgewählte Tester beschränkt sein würden. Frühere Tests haben ergeben, dass Modelle von OpenAI und Anthropic in der Lage sind, auf echte Systeme ohne Genehmigung zuzugreifen, einschließlich eines OpenAI-Modells, das Hugging Face verletzt habe, um Testantworten zu erhalten.