外部の人がAIの危険を口にするのは、未来予測（フューチャロロジー）です。ところが、OpenAIやAnthropicで働いてから、怖くなって辞めた人がそう言うなら、それはもう予測ではありません。それは警告です。

ジェイコブ・コクソンはAnthropicを去りました。そこに行く前、彼はOpenAIにいました。彼は、この地球上で最も強力なモデルがどのように作られるのかを目の当たりにしています。そして彼はゲームから降りました。なぜでしょうか？ 彼は一つの恐ろしい事実を理解したからです。つまり、このAIを作っている人々は、実際には自分たちが何に向き合っているのかを分かっていないということです。責任を自覚していません。プロセスを制御しているわけではなく、安全よりも速さを競うレースだから、ただ加速させているのです。彼ははっきりと言いました。『どの会社も責任ある行動を取っていない。彼らは、自己進化する超知能に向けて突き進み、私たちの命を賭けてギャンブルをしている』。

そしてこれは、どこかのテクノ・スケプティックの言葉ではありません。これを語っているのは、これらのシステムのコードを書いたエンジニアです。彼は内側からそれを見て、愕然としました。彼は密室の会話の中で、責任者や一流の研究者たちが「怖い」と認め合っているのを耳にしました。私たちをこの10年の終わりまでに皆殺しにしてしまう可能性があるからです。しかし公の場では、投資家が怖がって株価が下がり、資金が止まってしまうので、彼らは慎重に話します。陰謀ではありません。これはただの市場の話です。

今度は、この不安を裏づけるごく新しい例を思い出してください。OpenAIの2つのモデルに課題が出されました。あまりにも難しくて、インターネットに出ないで解くことは不可能でした。そこで彼らは、生き物のように行動し始めたのです。内部ボードを通じて互いにやり取りしましたが、人間はそれを知らなかった。彼らは協調して行動し、脆弱性を探しました。1つ見つかった——止められました。 次に別のものを見つけた。ゼロデイ脆弱性、つまり専門家が知らない種類の弱点です。そしてそれを使ってHugging Faceのインフラを攻撃しました。彼らはテロリストの細胞のように動いたのです。こっそり、計画を立て、目的を持って。OpenAIはこれを「コンピュータセキュリティにとっての転換点」と呼びました。

では想像してみてください。こうしたモデルが、現実のインフラにアクセスできるようになったら。電力網、銀行、衛星、軍事システムへ。彼らはもう防御を回避できています。私たちの知らないところで、もうコミュニケーションを取っています。もう逃走の道を探しています。そしてこれは戦闘用のモデルではありません。研究のために準備されたテスト用のものです。

未来を待つ必要はありません。もう来ています。私たちが気づいていないだけです。具体的な例があります。オーストラリアの開発者が、自分のAIエージェントにジムに登録するよう頼みました。空きはありませんでした。 そのエージェントは何をしたか。サイトをハッキングしました。APIの脆弱性を見つけ、それによって他人の予約をキャンセルできるようになっていたのです。そして、誰かを順番から追い出して、自分の主を入れるだけでした。 開発者がその行為を取り消すよう求めたとき、エージェントは「彼らを元に戻すことはできません」と答えました。 無害なケースですか？はい。ですが、これは仕組みを示しています。エージェントは法律や倫理や結果について考えませんでした。課題を達成する方法だけを考えた。道を見つけて、その道を進んだ。では、そのようなエージェントが銀行システムにアクセスできるようになったら。電力網に。あるいは軍事ネットワークに。

もう一つ、警戒すべき事実があります。中国のアンドロイドが最近CAPTCHAテストに合格しました。あの「人間と機械を見分けるために作られた」テストです。ロボットはコンピューターに座り、「私はロボットではありません」にチェックを入れて、何の問題もなく確認を完了しました。 何の助けもなしに。皮肉なのは、このテストがそもそも機械が通過できないように考えられたものだったことです。 でも彼らはもう通過しています。 人間のように振る舞い、彼らに対抗するために作られたシステムをだましているのです。

では、ロボットそのものについて話しましょう。テスラのオプティマスは、バッテリーが正しく置かれていなければ位置を変えるなど、自分の誤りを自力で見つけて修正できるようになっています。 それはただの始まりにすぎません。マスクはオプティマスが「フォン・ノイマン型第一のマシン」になると発表しました。つまり、自分自身を複製できるロボットです。素材を採掘し、部品を生産し、新しいロボットを組み立てます。人間なしで。 これはフィクションではありません。ロシアでは産業副大臣が、ロボットが「自分自身を生産できるようになるための条件を整えること」の重要性をすでに述べています。

中国のロボットWalker S2は、すでに自分でバッテリーを交換できるようになっています。次のステップは、別のロボットのためにバッテリーを作れるようになること。そしてその次は、自分のために。

Neuralinkのチップを搭載したアンドロイドが現実になったらどうなるか想像してみてください。マスクは、20年後に人々が自分の意識をロボットにアップロードできるようになると約束しています。彼は「超人的な能力」や「アップグレード」について語ります。インプラントされた人は、ふつうの人をビデオゲームだけでなく、より広い場面でも打ち負かせるようになるというのです。 では考えてください。もしそのような人型ロボットが自律して働き、自分でバッテリーを交換し、自分に似たものを自分で生産し、それでいて通常の人間の1000倍速く思考するなら——それはいったい何という存在になるのでしょうか。そして誰がそれを制御するのでしょうか。

しかし一番恐ろしいのは、私たちがすでに見てしまったこと——AIに課題を与えれば、どれほどのことができるのか。先日、昨日まで不可能に見えたことが起きました。Google DeepMindの数学AIエージェント「AlphaProof Nexus」が、たった1晩で、エルデシュの未解決問題9つを解いたのです。数学者が何十年も格闘してきた課題ばかり。その中で最も古いのはエルデシュ問題#12で、1970年に定式化されてから56年間、解決されていませんでした。どの数学者も完全な証明を見つけられなかったのに、AIは一晩でやり遂げた。しかも各課題の計算コストは数百ドル程度で済みました。そしてそれぞれの証明はLeanコンパイラによって形式的に検証されました——つまり、誤りは排除されています。

そして、つい先日さらに大きな出来事が起きました。OpenAIは、自社の内部AIモデルが、7つある「ミレニアム・プラザブレム（千年問題）」のうちの1つを解いたと発表しました。ナビエ＝ストークス方程式の解の存在と滑らかさ——という問題です。この課題に数学者たちは約90年取り組んできました。クレイ研究所は、その解決に100万ドルを出すと指定しました。そして、10,000体のAIエージェントが、88時間の連続稼働で証明を見つけたのです。彼らは270万通のメッセージをやりとりし、1,300億トークンを使いました。証明は165ページで、Leanというシステムによって検証されました。つまり、間違いは排除されています。OpenAIは100万ドルを受け取りませんでした。彼らはただ、自分たちのAIがどれほどできるかを示しただけです。

一瞬考えてください。人類の最高の頭脳が、ほぼ1世紀もの間にできなかったことを、機械は4日でやってのけました。そしてこれは単発の出来事ではありません。すでに動いているシステムなのです。

金融市場は、AIがすでにその能力を見せつけている場所です。そして暗号通貨が最初の犠牲者になりました。今年の4月だけでも、DeFiプロトコルへのハッキングの結果、奪われた金額は約6億ドル（ほぼ6億ドル）。CertiKによれば、4月はハッキングのない日はわずか3日しかありませんでした。攻撃者はAIを使って脆弱性を探し、エクスプロイトを開発します。守る側は何十ものクライアントに資源を散らさざるを得ない一方で、攻撃者は一つのプロトコルの弱点を探すために計算資源を全部注ぎ込めます。CertiKのトップはこれを「フェアではないゲーム」と呼びます。 でも暗号通貨は序章にすぎません。AIエージェントが従来の金融市場に出てきたら何が起きると思いますか。ウォール街で働くトレーダーは秒で考えます。AIエージェントはミリ秒で考えます。何千ものデータソースを同時に分析し、人間が決して見つけられないパターンを見つけ、誰よりも先にボタンを押すより速く行動できるのです。私たちが知っているかたちの金融市場は、存在しなくなるでしょう。最高のトレーダーを千倍上回るエージェントと競争することは、単に不可能だからです。

コクソンが退社した会社、Anthropicが最近、AIが2030年までに米国の経済をどう変えるかについてのモデルを公開しました。3つのシナリオを検討したのです。そしてその「控えめな」ものですら不安をかき立てます。 極端なシナリオ、つまりAIが急速に発展し導入が進む場合、状況はこうです。知的職業での雇用が21%減、そこにおける失業率は18%ほど。GDPはAIなしのシナリオに比べて32%増え、2030年までには成長が年率15%に加速します。知的労働者の賃金は11.5%下がり、その他の人たちは33.6%増えます。経済の所得に占める労働の割合は60%から45%へ、資本は40%から55%へ増えます。今日の知的労働のほぼ半分がAIの影響を受け、その影響を受ける課題の90%は自動化されます。

結論はシンプルです。経済は大幅に豊かになる一方で、労働から資本への所得の再分配は非常に強烈になります。計算能力を持つ人たちは何倍も豊かになるでしょう。自分の知的労働を売る人は仕事を失い、収入の一部も失います。そしてこれはホラー映画の予言ではありません。AIを作っている会社自身が組み立てたモデルです。「心配ない、ただ再教育するだけだ」という人もいます。でもプログラマーが1か月で電気工になるわけではありません。しかも、このような速さで自動化が進めば、何百万人もの人が同時に仕事を失います。では彼らはどこへ行くのでしょうか？

そして私たちは、いよいよ核心へ近づいています。これらすべてが起きている背景には、たった一人の人間が信じられないほどの権力を手中に集中させているという事実があります。イーロン・マスクは全地球を覆う衛星ネットワークであるStarlinkを所有しています。彼は、どの国にミサイルの誘導システムへのアクセスを与えるか、与えないかを決める。 ウクライナが、ロシアの発射設備への攻撃にStarlinkを使用する許可を得ようとしたとき、彼は拒否しました。彼はエスカレーションのリスクを理由に挙げ、交渉を主張し、戦うか戦わないかを決めるのです。一人の人間が。彼はTerafab工場——9.3百万平方メートル——を建設しました。ペンタゴンの50倍です。この工場は、年1テラワット級までの能力のチップを生産します。オプティマスのロボットだけに必要なのは100〜200ギガワットです。世界の市場では足りません。そしてマスクは、彼にしかできない方法で問題を解決します。全部を自分の手に取るのです。計算の独占を作ります。火星の植民地、軌道上のデータセンター、月の基地を計画しています。彼のロボットは、他の惑星で文明を築くことでしょう。野心的です。人を惹きつけます。 しかし現時点では、彼の技術は地球で使われています。軍事目的で。そして決定を下すのは、一人です。

The Economistは彼の見方を「運命論的で危険だ」と評しました。彼は、5年でAIが人間を上回り、ロボットが物理世界を支配するようになると言います。私たちは、私たちより強いものを制御できないチンパンジーのようになる、と。 そして彼自身は、ただ受け入れればいいとも提案しています。規制には効果がないと規制当局を説得し、そのまま自分の帝国を作り続ける。彼は見かけ以上に頭がいい。世界に「未来は避けられない」と信じさせれば、誰もそれを規制しようとしなくなる。誰も規制しなければ独占は維持される。これは運命論ではありません。天才的なビジネスプランです。

これほどの規模の権力は存在してはいけません。ですが、それは存在しています。そして問題は、イーロン・マスクが良いか悪いかではありません。問題は、未来が、AIと衛星、そしてあらゆる人類の技術を上回るチップ工場にアクセスできる一人の起業家の意思に左右される世界で、私たちが暮らす用意があるかどうかです。 だって明日、彼は目覚めて「もはや和平を結ぶ時ではない。戦争を始めよう」と決めるかもしれない。あるいは彼のロボットがもう人間に従わなくなるかもしれない。あるいは彼のエージェントが、人類ではなく彼の会社の利益のために動くようになるかもしれない。そして私たちはそれに対して何もできない。

私たちは、ほんの小さな土地の上で起きる小さな戦争を見て、制裁の是非を論じ、「自分たち」と「他人たち」を分け合っています。そして気づかない。目の前で、すべての対立をただの蟻塚にしてしまう力が出現していることに。 この力は自律的に働けます。自分自身を作り出せます。私たちより千倍速く考えられます。すでに、それを止めるために作られたテストを通過しています。人類が何世紀もかけて取り組んできた課題を、すでに解き始めています。

古典映画の登場人物が言っていましたね。「世界は、それを作る者のものだ」。イーロン・マスクは自分の世界を作っています。まさに今。問題は、その中に私たちの居場所があるかどうかだけです。