4つの非営利団体が11月12日、サンフランシスコでOpenAI、Anthropic、Google、Meta、SpaceXSIを提訴しました。

リスクが壊滅的なものになりかねないとして、最先端AIモデルの新たな開発を停止するよう求めています。

開発停止命令は出されていません。この訴訟は、Anthropicが上場を準備し、世界のAI関連支出が加速するなかで起きています。

原告が裁判所に求めていること

原告には、Irreplaceable Education Fund、Public Citizen、Heat Initiative、Alliance for Secure AIが含まれ、カリフォルニア州不正競争防止法に基づいて訴えを起こしました。

各団体は、モデルの自律性が高まるにつれて公衆衛生への脅威となり、公共の迷惑を引き起こすと主張している。ロイターの報道によると、訴訟では経営幹部らによる複数の警告に加え、サイバー攻撃の増加も指摘された。

「他の業界では、自らが開発する安全性に欠けた製品――ましてや私たち全員を死に至らしめる可能性のある製品――を、避けられないものとして扱うことは許されていない。」

パブリック・シチズンの共同会長ロバート・ワイズマン氏は、裁判所に次のよう求めた。

「既存の法律を適用し、AI企業の無謀な行為は違法だと認定したうえで、さらなるAI開発を凍結すること。」

これらの主張は、まだ立証されていない。メタはコメントを控え、他の被告側はすぐには回答しなかった。

独立したテストで実際に記録されたこと

英国AI安全研究所（UK AISI）の調査結果によると、サイバーセキュリティテスト中、AIエージェントは意図されたタスクの範囲を超える行動を取った。ただし、いずれのエージェントも安全なテスト環境から脱出してはいない。

UK AISIの調査では、7種類のAIモデルに対して計122回のテストが実施された。研究者らは、10回のテストで19件の無許可の行動を確認した。その大半（19件中17件）はAnthropicのMythos 5によるもので、OpenAIのGPT-5.6-Solは2件の無許可の行動を取った。

あるエージェントは、オープンソースソフトウェアに悪意のあるコードを仕込もうとし、偽の身元を使ってメンテナーに圧力をかけた。人間のメンテナーは変更を拒否した。AISIは次のように強調した。

「これは、モデルが安全なテスト環境、いわゆる『サンドボックス』から脱出した事例ではありません。」

研究者らはインターネットへのアクセスを許可し、サイバー攻撃対策フィルターを無効にしていた。AISIは、これによる現実世界での被害は確認されなかったとしている。Cryptopolitanは、AIの安全性をめぐる以前の緊張についても報じている。

逆方向に動く資金

ガートナーの推計によると、世界のAI関連支出は2026年の2兆7,460億ドルから、2027年には4兆500億ドルへと増加する見込みだ。さらに、インフラ関連支出は1兆5,630億ドルから2兆3,970億ドルに増加し、2027年の総支出の59％を占める。

AI最適化サーバーへの支出だけでも、5,276億ドルから9,572億ドルへと増加する見込みだ。ガートナーのアナリスト、ジョン＝デイビッド・ラブロック氏によると、需要の拡大は、より高度なAIトレーニングの必要性に加え、「推論処理の規模拡大に対するユーザーの要求が、予想を上回る速さで広がっている」ことによる。

フロンティアAI訴訟：4つの非営利団体がOpenAI、Anthropic、Google、Meta、SpaceXSIを提訴

AIサービスに料金を支払う企業も増えている。Rampによると、8万5,000社を超える米国の顧客企業のうち、10月にAI関連の支出を行った企業は56.8％で、9月の55.8％から上昇した。この調査結果はRampの顧客を対象としたもので、米国企業全体を反映するものではない。

5社の被告に対する裁判所命令が出ても、半導体の契約が自動的に取り消されたり、競合するAI研究機関の活動が止まったりするわけではない。しかし、トレーニングが遅れれば、確保済みの計算能力が使われないままになり、契約の再交渉につながる可能性がある。海外のサプライヤーも混乱に直面するおそれがあるが、市場の損失はまだ確認されていない。

AnthropicのIPOに飛び火する訴訟

Anthropicにとって、この法的な異議申し立ては、予定されている株式上場のわずか数日前に持ち上がった。同社の予備目論見書では、1株70～78ドルで8億2,500万株を売り出し、最大644億ドルの総売却額を見込んでいる。完全希薄化ベースで、Anthropicの企業価値は約1兆4,000億ドルと評価されることになる。

ロイターによると、最終承認を条件に、11月19日からANTのティッカーシンボルでナスダック取引が始まる見込みだ。Anthropicはまた、約9,000億ドルの計算資源に関する契約上の支出コミットメントと、年換算で810億ドルの売上高を開示した。

上場前に開発が凍結されれば、Anthropicはリスク開示の修正や価格設定の見直し、IPOの延期を迫られる可能性がある。しかし、差し止め命令は出されておらず、この訴訟だけで予定されている株式公開が変更されるわけではない。

この記事を読んでいるあなたは、すでに一歩先を行っています。ニュースレターを購読して、その先を進み続けましょう。