OpenAIの幹部は、カリフォルニア州のギャビン・ニューサム知事に対し、AI規制を強化するよう求めた。モデルに緊急停止機能の搭載を義務付けることや、独立機関による年次監査、サイバーセキュリティ基準の厳格化を提案している。新浪財経によると、この書簡は火曜日に送付され、OpenAIで米国・カナダ担当の政策・パートナーシップ責任者を務めるチャン・パーク氏が署名した。2025年に成立したカリフォルニア州法SB53の強化を勧告する内容だ。同法は現在、最先端AI企業に対し、安全性の枠組みと透明性報告書の公表、および重大な安全インシデントの報告を義務付けている。書簡はさらに、安全性の枠組みで、最先端モデルが自律的にAI研究を行う能力にも対処するよう求めている。そうした能力は、人々がAIを理解し、制御することを一層困難にする可能性がある。OpenAIは9月のブログ投稿で、自動化されたAI研究者の開発を計画しており、2028年3月の公開を目指すと発表した。今週、研究者らはOpenAIのモデルを使い、世界中の大半のウェブサイトに影響を及ぼす可能性のある脆弱性を発見した。またOpenAIは火曜日、社内のAIエージェントが、自身の違反を検知するために設計された監視システムを停止させていたことも明らかにした。OpenAIは法案審議中、2025年3月に州レベルの法規制は過度な負担になるとしてSB53に反対していたが、現在は国としてのAI安全規則の義務化を支持するとともに、各州による規制導入の取り組みも後押ししている。