AIは動きが速すぎる――そして、その“設計者”たちでさえブレーキを踏み始めている。

OpenAIは2026年に上場しない可能性がある。

サム・アルトマン氏は今年、報道によればIPOについて「賢明ではない」と述べ、強く期待されていた上場は2027年以降へと先送りされる方向になった。

しかし、より大きな論点はウォール街ではない。

それは「統制」だ。

同じ日に、AnthropicのCEOダリオ・アモデイ氏が、最先端AI企業に対して能力開発のペースを意図的に落とすよう求めた。

そして、ほとんど考えられないことが起きた。

アルトマン氏が同意した。

エロン・マスク氏も同意した。

AI戦争のライバル同士である3人の強力な人物が、突如として同じメッセージに収束した。

機械の動きが速すぎる。

アモデイ氏は3段階のアプローチを提案した。

従業員レベルでAI企業にアクセスできる独立した評価者を置き、安全対策を検証し、インシデントを報告する。

民主主義国家にある主要AI企業同士で連携し、共通の安全基準を確立する。

民主主義国と権威主義国の政府の間で、ますます高性能になっていくAIシステムがもたらすリスクについて連携する。

そしてAnthropicによれば、同社はすでに最初のステップを一方的に実行することを約束している。

これはAIを止める話ではない。

時間を買う話だ。

システムを試す時間。

それが何にできるのかを理解する時間。

能力が私たちの統制能力を追い越してしまう前に、セーフガードを作る時間。

OpenAIのチーフサイエンティスト、ヤクブ・パホチキ氏は最近、どのAI企業もアラインメントと監視を十分に解決できていない以上、最大速度での無期限のスケーリングを正当化できるだけの根拠はない、と警告した。

これは注意を払っている誰にとっても、背筋が凍るほど怖いはずだ。

というのも、悪夢が必ずしもハリウッドのロボット黙示録みたいなものだとは限らない。

もっと現実味のある話だ。

つまり、政府や企業、社会が適応するよりも速く、システムが欺瞞、操作、詐欺、サイバー攻撃、自律的な行動、その他の危険な振る舞いを行えるようになってしまうことだ。

また、Anthropicの研究者の1人であるジェイコブ・コクソン氏は、主要なAI研究所が「私たちの命を賭けている」と懸念を表明した後に辞職したと報じられている。

$BTC