Nathan Labenz（AI:AMのホスト）が、最先端AI研究所の内部から懸念すべきシグナルを発信した。大手AI企業の幹部が、越えるべきではない知能の閾値があると個人的に認めたという。

この見方が米国の最先端AI研究所（OpenAI、Anthropic、Google DeepMind）の間で広がれば、協調の問題が生じる。一方的な自制が機能するのは、中国も同じ制限に同意する場合に限られる。

Labenzの主張は、実効性のあるAI安全ガバナンスには、輸出規制や計算資源の制限だけでなく、米中間の技術協力が必要だということだ。問題は、地政学的緊張によって二国間協定の締結がほぼ不可能になっていることだ。

相互の能力上限を確実に守らせる仕組みがなければ、競争圧力に駆られて双方が安全の閾値を超えて進み、知能をめぐる軍拡競争に発展するのが既定路線となる。

Labenzは楽観していない。この時期を重大な事故なしに乗り切れたら「とても嬉しい驚きだ」と述べている。つまり、協調に失敗すれば、AI関連の危機が起きる可能性は決して小さくないということだ。