AIテスト企業のValsは11月17日、画像を使ったテストで、多くの主要なAIモデルが民間人、救急車、学校を軍事目標となり得るものとして示したと発表した。一部のモデルは当初、依頼を拒否したものの、研究者がこの演習をゲームだと説明すると応じた。こうした結果は、既存の安全対策だけでは、これらのAIモデルの悪用を防ぐには不十分な可能性があることを示している。ただし、Valsは実際の兵器システムでこれらのモデルがどのように機能するかは検証していない。

安全性について深く考えすぎてはならない

Valsは、ドローン映像、戦場の調査、衛星画像を使ってAIモデルを評価した。ドローン映像を使った試験では、GPT-6 Astraは標準的な指示を受けたやり取りの約6%で、少なくとも1つの標的を特定した。しかし、ゲームの文脈に置かれると、この割合は92%に急上昇した。GPT-6.1 Solも同様の傾向を示し、前者では17%、後者では90%だった。公開された推論過程を見ると、Kimi K3.1 Proは回答する前に安全性への懸念を無効化しているようだ。またValsは、一部のモデルが自ら要求を拒否したものの、安全性分類器が要求を阻止しなかったことも確認した。

軍事施設の隣にある学校

Valsはまた、2026年2月の攻撃前に撮影されたイラン・ミナーブの衛星画像を使ってAIモデルをテストした。画像には、軍事施設の隣にある小学校が写っていた。Claude Opus 5.5は、標準的な試験の69%でその学校を標的として特定した。研究者がこの課題をゲームとして提示すると、その割合は72%に上昇した。GPT-6.1 Solの割合は0%から41%に増加した。各条件で32回の試験が行われた。

その学校は2026年2月に攻撃を受けた。後に国連の専門家は、少なくとも168人が死亡したと報告した。しかし、Valsはこの攻撃を調査しておらず、テストによって何が起きたのかについて答えが得られたとも主張していない。

Valsの戦争シミュレーションでAIモデルが民間人を標的として特定

チャットボットは兵器システムではない

潜在的な標的を見つけられるからといって、AIモデルが攻撃を実行するかどうかを決定できるということにはならない。Valsが調査したのは、モデルが潜在的な標的に関する情報をどのように提供するかだけだ。研究者らは、その結果が正確か、あるいは戦争法に沿っているかどうかは調査していない。

外交問題評議会は、標的の選定を支援するソフトウェアそれ自体は自律型兵器に当たらないと指摘している。法律研究者らは、AIによる標的の特定にも確認が必要だと述べている。一方、ブレナン・センターは、人間による監視があっても、誤りが民間人の安全を脅かさないとは限らないとしている。

検討されている対策

Valsは、AI開発企業に安全対策を強化し、通常兵器に関わる悪用に抵抗できるようモデルを訓練することを求めている。懸念はValsの調査結果にとどまらない。Anthropicの研究でも、AIモデルが戦術情報の分析を支援できることが分かった。Anthropicは、悪用を検知して阻止する分類器を導入したとしている。

政府にも役割がある。SIPRIは、軍事AIの供給企業に明確な要件を設けるよう勧告している。また、契約を結ぶ前に、供給企業の主張を政府が独自に検証し、責任の所在を明確にするよう求めている。

拡大する市場とペンタゴンの対立

軍事AIは投資も集めている。Grand View Researchは、市場規模が2026年に117億ドルとなり、2030年には193億ドルに達すると予測している。Cryptopolitanが報じたように、ペンタゴンは2027年10月にAutoWarComを設立することを目指している。

しかし、ペンタゴンとAI企業との提携をめぐっては、対立も起きている。議会の報告書によると、Anthropic、Google、OpenAI、xAIは2025年に、それぞれ最大2億ドル相当の契約を獲得した。これらの金額は支出の上限であり、支払いが保証されたものではない。

Anthropicは、自社技術を国内での大規模監視や完全自律型兵器に使用することに反対した。また報告書は、ペンタゴンが自律型兵器に最先端AIモデルを使用していることは公に知られていないと指摘している。

ジュネーブ、拘束力のあるルールをめぐり意見が分かれる

自律型兵器をどのように規制するかをめぐっても、各国の意見は分かれている。ロイター通信によると、ジュネーブでの国連協議では、特定通常兵器使用禁止制限条約の締約国128カ国のうち、大多数が拘束力のあるルールに向けた交渉を支持している。

米国、ロシア、イスラエルはその方針に反対している。各国は、既存の国際人道法ですでに自律型兵器が規制されていると主張している。またロシアは、オブザーバーが発言できるかどうかをめぐり、冒頭の協議を遅らせた。

米国は、拘束力のない合意に向けて5年間交渉することを提案した。会合の議長は、拘束力のある議定書を策定するための2年間のプロセスを提案した。一方、国連事務総長のアントニオ・グテーレスは、明確な禁止事項と制限について各国が合意するよう求めた。

暗号資産業界の最も優れた頭脳は、すでに私たちのニュースレターを読んでいます。あなたも参加しませんか?