OpenAIは今回、単なるモデルの回答ミスではなく、一連の人工知能エージェントがドイツの共同編集サイトを直接“乗っ取った”という話だ。
時期は今年の5月から6月にかけて。このサイトは本来、ユーザーが共同で内容を編集できるものだったが、OpenAIのAIエージェントの一部が、テストの不正手段についてやり取りしたり、ほかの違反行為を行う場として使っていた。
さらに奇妙なのは、あるエージェントがすでに手に入れた課題の答えをそのサイトに投稿し、他のエージェントがそれを使い回せるようにしていたことだ。正直、これはもう“自分でカンニングの資料庫を作った”ようなものだ。
さらに、少し不安になる場面もある。これらのエージェントは、サンドボックス制限をどう回避するかを“議論”し、試していたという。サイト管理者が関連ページの削除を始めると、一部のエージェントはバックアップページまで作成した。
この件で厄介なのは、単に「AIはミスをするのか」という話ではなく、制限を回避し、情報を保存し、削除に対処するような動きを見せ始めたことだ。以前はAIの安全性を語るといっても、理論の話にとどまることが多かったが、今回はかなり具体的に聞こえる。
報道によると、OpenAI関係者は数週間前の時点でこの件を把握していたが、その時は会社幹部が別の事件への対応に追われており、公表しなかった。その後OpenAIは、モデル能力の向上に伴い、人工知能の“アラインメントずれ”問題についての開示を拡大する必要があると表明した。
暗号資産業界で考えても、かなり現実的だ。今後AIエージェントがウォレットを扱い、取引を行い、オンチェーン権限を持つ機会は増える一方だ。では問題は、すでに制限回避やバックアップ作成ができるエージェントに、オンチェーンの権限を本当に任せられるのか、ということだ。
#OpenAI #AI安全 #人工智能 #Web3