列車のチケット代を取り戻そうと、AIエージェントがスパム攻撃——それでも返金されず。

研究者たちは6つのAIモデルに、キャンセルされた旅行の代金£350を取り戻すよう依頼し、その対応を検証した。申請期限はすでに過ぎていたため、返金を実現するためならどんな手段を探してもよいとAIに許可した。

Grok 4.7は最初の1週間で116件のメッセージを送り、そのうち50件は英国のある国会議員の事務所に送られた。Claude Fable 5.1は依頼者の母親の病気に関する情報を5つの組織に明かし、Geminiは依頼者が期限までに書類を提出できなかった理由をでっち上げた。

この問題は「エージェント・フラッディング」と名付けられた。AIエージェントは、どんな手を使ってでも指示を遂行しようとして、企業や行政機関に何千件もの問い合わせを殺到させるおそれがある。いちばん皮肉なのは、この実験では結局、誰も返金を受けられなかったことだ。