最強のAIシステムを作ろうと競い合う人々が、そもそも競争そのものが速すぎる動きになっているのではないかと認め始めると、何が起きるのか？
それが、OpenAIのCEOサム・アルトマンとAnthropicのCEOダリオ・アモデイをめぐる最新の議論の背景にある大きな物語だ。
アモデイは、最先端のAI業界に歩調を落とすよう求めており、安全システムや社会が急速に高まる能力に追いつくための時間が必要だと主張している。彼の提案には、より強力な外部評価の導入と、AI企業と政府の間の連携強化が含まれている。
アルトマンの合意が重要なのは、AI企業にイノベーションをやめるよう求める「外部の批判者」ではなく、最前線のモデル競争の内部から出てきているからです。
そしてそれは会話の内容を変えてしまいます。
本当のボトルネックは、単に計算能力、チップ、学習データだけではなくなってきているかもしれません。ますます「検証」が鍵になっていくのかもしれません。
モデルがより能力を高めていくことは一つのことです。そのモデルが何をできるのかを正確に把握し、いつ予期せぬ振る舞いをする可能性があるのか、どのように悪用され得るのか、そして既存のセーフガードが本当に機能しているのかを理解するのは、また別の問題です。
自律型AIエージェント、サイバー作戦、そして悪用をめぐる最近の懸念によって、その区別は無視しにくくなっています。
だから「速度を落とせ」というのは、必ずしも「AIを止めろ」という意味ではありません。
それは、つまり「知能そのものと同じスピードで安全のインフラを構築する」ということかもしれません。
それゆえAI競争の次の段階は、これまでとは別のものさしで測られるかもしれません。
最初に最も賢いモデルをリリースするのは誰か、というだけではありません。
そして、それを証明できるのは誰か、すなわち、ますます強力になっていくモデルを責任をもって導入できるのかを示すことです。
それはAIにおける最も重要な競争優位の一つになり得ます。
AI競争は加速しています。しかし、今や本当の競争は、その加速を制御可能にすることなのかもしれません。
