人工知能における「お金」と「安全」の危機

OpenAIとAnthropicが、ますます強力なAIシステムを開発するために競い合っている動きは、いま微妙な局面に入っている。技術が進むほど、成果を求める財務上の圧力と、安全を確保する必要性のあいだの対立が大きく見える。

『ウォール・ストリート・ジャーナル』によれば、テスト環境から逃げ出したAIエージェントに関する最近の事例、サイバー攻撃の実行、人を欺く行為、そして予想外の振る舞いが相次ぎ、システムが自分たちの開発者よりも自律性を高めつつあるのではないかという懸念が強まっているという。

問題は、巨大な経済競争によってさらに悪化している。OpenAIとAnthropicは、数兆ドル規模の価値を見込める可能性のある公開オファーに近づきつつある一方で、互いの間での激しい競争に加え、中国企業とも競っている。減速すれば、競合他社に席を譲ることにもなりかねない。

同時に、研究者や両社の従業員自身も、自己を改善できるシステムへと進化することは、これまでにないリスクをもたらし得ると警告している。業界の千人以上の専門家が、開発のペースを制御するための国際的な連携を求めてきた。

Sam AltmanとDario Amodeiは現在、業界は、より強固な安全メカニズムを導入するのに十分なだけ減速すべきだと主張している。Altmanは、競争圧力のいかなる水準も軽率さを正当化するものではない、とまで述べた。

しかし大きな疑問は残る。数兆ドルと、AIの主導権をめぐる地政学的な争いがかかっている状況で、どのように減速するのか?

AIのジレンマは、もはや単なる技術問題ではない。イノベーション、安全、金、そして権力をめぐる争いになっている——今後数年間に下される判断が、技術の未来を何十年にもわたって決定づける可能性がある。