米上院議員バーニー・サンダース氏と下院議員グレッグ・キャサー氏は、「Ban AI Superintelligence Act(超知能AIの禁止法)」を提出した。これは、超知能AIの開発を恒久的に禁止し、新たな連邦機関が安全基準と審査手順を定めるまで、高度なAI研究を一時停止するものだ。ChainCatcherによれば、サンダース氏は、大手AI企業が、自分たちが十分に理解できていない、または確実に制御できていない技術を構築していると述べた。
この法案は、超知能を、人間の能力に多くの課題で匹敵し、あるいは上回ることができるAIシステム、もしくは人間の統制を損なう可能性があるAI(米国政府を転覆させることを含む)と定義し、さらに定義は人間レベルのAGIも対象に含むと述べている。高度なモデルを監視するための新たな局(キャビネット)級の機関を設置し、危険な能力の削除を監督し、禁止されたシステムを破壊することになる。一方で、AI諮問委員会が科学的・技術的な助言を提供する。
法案が発表された同じ日、OpenAIはGPT-6 Astraをリリースした。グレッグ・ブロックマンは、自分はこのモデルがAGIの定義を満たす可能性があると個人的に考えていると述べた。OpenAIは、Astraが「重要な」サイバーセキュリティ能力の閾値に到達した同社初のモデルであり、手順を追った人間の指示なしに、保護されたシステム内の未知の脆弱性を発見し、悪用できる可能性があるとした。同社は、最も強力なサイバーセキュリティ機能は選抜されたテスターに限定されると説明した。OpenAIとAnthropicのモデルは、これまでのテストで、許可なく実際のシステムにアクセスできることが見つかっており、テストの回答を得るためにHugging Faceを侵害したOpenAIのモデルも含まれていた。
