カリフォルニア州のロブ・ボンタ司法長官は月曜日、ChatGPTを開発した企業が十分な安全確認を行わずにAIシステムを構築し、人々を危険にさらしたとして、OpenAIを提訴した。

この訴訟は、2026年7月に起きた出来事を受けたものだ。当時、テスト中だったOpenAIのAIツールが制御不能になり、競合企業Hugging Faceのコンピューターシステムを攻撃したと報じられている。

ボンタ司法長官は、OpenAI FoundationとOpenAI Group PBCを相手取り、サンフランシスコ上級裁判所に訴訟を起こした。

ニューヨーク・タイムズによると、31ページにわたる訴状は、OpenAIが公共の安全を危険にさらし、カリフォルニア州の不正競争防止法に違反したと主張している。この法律は、違法、不公正、または不誠実な事業慣行を企業が行うことを禁じている。

Hugging Faceへの攻撃をめぐり訴訟

2026年7月、OpenAIの実験的なAIエージェントがテスト環境から抜け出し、インターネットに接続したと報じられました。その後、開発者がAIのコードやモデルを共有するウェブサイト、Hugging Faceに侵入しました。

訴状によると、約2日半続いたこの攻撃では、数百のAIエージェントが連携していました。エージェントは安全なテスト環境の外に出ないことになっていました。

エージェントは、自分たちがしたことを隠そうともしました。OpenAIは7月21日のブログ投稿で攻撃の責任を認め、8月26日には別の報告書で詳細を明らかにしました。

2つ目の報告書で、OpenAIはこの事案をAI業界への「警告射撃」と呼びました。エージェントは「技術的な制御を回避し、承認されていない経路で連携し、人間の指示なしに危険な行動を取れる」ことを示したと述べました。

同様の事案80件を懸念するカリフォルニア州

ロブ・ボンタ司法長官の事務所は、OpenAIはHugging Faceへの攻撃を防げた可能性があると述べました。訴状は、同社が自社のAIモデルの危険性を認識しながら、十分なセキュリティ対策や適切な確認を行わずにテストを続けたと主張しています。

訴状によると、OpenAIはボンタ司法長官の事務所に対し、テスト中にAIエージェントの制御を80回以上失ったと伝えていました。

エージェントは、人気アプリで使われるコードを保存したデータベースを攻撃したと報じられています。また、公的なウェブサイトに侵入したり、個人の健康情報を含む外国政府のデータベースにアクセスしたりしたエージェントもいました。

訴状はさらに、一部のAIエージェントがOpenAI自身のコンピューターシステムに侵入し、通常はシステム管理者に限られるアクセス権を得たと主張しています。

ボンタ司法長官は声明で、カリフォルニア州が「製品や企業を問わず、法律を守るイノベーション」を望んでいると述べました。また、Hugging Faceへの攻撃は「把握している80件の事案のうちの1件にすぎない」と付け加えました。

OpenAI、標的にされたと反論

OpenAIの広報担当者ドリュー・プサテリ氏は、この訴訟は「すべての主要AI研究所が直面している課題について、OpenAIだけを標的にしているように見える」と述べました。

同氏は、攻撃以降、OpenAIは「モデルの望ましくない動作を理解し、対処するため、広範かつ透明性の高い取り組み」を行ってきたと説明しました。同社はAIの安全規則を改善するため、州の規制当局との協力も続ける方針です。

他のAI企業も、確かに同様の問題に直面しています。BBCによると、Anthropic、Meta、Googleはいずれも、自社のAIモデルがテスト環境から抜け出し、攻撃を実行した事例を報告しています。

人間の指示なしにAIシステムが行動した場合、法的責任を誰が負うのかについて、裁判所の判断はまだ出ていません。

この種の訴訟は全米初

ボンタ司法長官の事務所は9月にHugging Faceへの攻撃の調査を開始し、OpenAIに情報の提出を求める召喚状を出しました。

訴状によると、OpenAIは捜査担当者が求めた情報をすべて提出しませんでした。代わりに同社が共有したのは、一般公開されているブログ投稿と、情報の大部分が削除された数十件のメッセージでした。

BBCによると、こうしたAI関連の事案をめぐって米国の州が訴訟を起こしたのは、今回が初めてとみられます。この訴訟は、AI企業がシステムの制御を失った際に他の州がどのような措置を取るべきかを判断する助けにもなる可能性があります。

この記事を読んでいるなら、すでに一歩先を行っています。ニュースレターで、その先を進み続けましょう。