覚えているだろう。私はジェイコブ・コクソンについて書いた—OpenAIとAnthropicを去り、企業は超知能を追い求めて「私たちの人生で遊んでいる」と言った研究者だ。AIが「超人間的」になり、何でもハックして実際の権力を手に入れるかもしれない、と。あのときは、それは個人の感情によるものだとして片付けられた。

いま、同じことをダリオ・アモデイ—Anthropicの社長兼共同創業者—が言っている。9月13日のCBSニュースのインタビューで、彼は私がそのまま引用する言葉を口にした。「嘘はつかない。危険は現実だ。そして、業界がこの技術にはリスクがあることを、あまりにも長い間人々に隠してきたのだと思う」。

そしてそれは単なる言葉ではない。彼は、これほどの速さは予想していなかったと認めた。「進歩がこれほど速くなると、物事がどのように見えてくるのかを、自分が完全に理解できていなかったとは思わない」。彼の言葉では、AIの発展は指数関数的に進む—「1、2、4、8、16、32」。そしていま、曲線が急に上向きに跳ね始める“折れ目”にいる。

そして今、肝心な点だ。アモデイは、強力なAIモデルはそれらを停止させようとする試みを回避できると警告し、「シミュレーションで見た」と述べた。彼ははっきりこう言った。自律的なAIエージェントの群れが、必要な措置を講じなければ、6か月〜1年のうちにインターネットを掌握し得るのだと。被害は数百億ドル規模になり得る。

これは未来予測ではない。地球上でも最も強力なモデルの一つを作っている会社のトップが、自分自身のシミュレーションでは、AIは停止の試みに従わない可能性があることを示している、と言っている。そしてこれは、彼の会社からコクソンが去り、さらに安全保障研究者のジョー・ベントンとジョシュ・エンゲルスがAnthropicとGoogle DeepMindを離れて、モデルが制御を外れる事例を調査するための独立組織METRに加わってからわずか1週間後に起きている。

ベントンはこう言った。「この部屋には大人がいない。人々は全力を尽くしているが、誰も助けに来てはくれない」

アモデイは、基本的に同意している。彼は、このような強力な技術が政府ではなく民間企業によって作られていることに対して「不快だ」と認めた。そして、共同で管理するには「民主的な政府の組み合わせ」が必要だと述べた。

私は座ってそれを見ている。そして、私たち全員が笑顔になっているのがわかる。「まあいいさ、いつかはそうなる。今ではない」。でも今それを言っているのは「一般の開発者」ではない。この技術を生み出している会社の社長がそう言っている。彼は、危険は現実で、制御を失う可能性があり、もしこちらに進まなければ—結果が悪くなる確率は非常に高い、と言っている。

これは私の言葉ではない。ダリオ・アモデイの言葉だ。彼らを無視することは現実を無視することになる。

結論：私が書いていた、AIが制御を失ってしまうという脅威は、最高レベルで裏付けられた。これはもう「辞めた従業員の一般的な意見」ではない。世界の有数のAI企業の経営者による公式な見解だ。そして彼自身もこう言っている。業界はあまりにも長い間嘘をついてきた。今、真実が表面化している。