Google DeepMindは、AIエージェントがユーザーの誤解を招く提案に従うかどうかを評価するフレームワーク「XYEval」を発表しました。ChainCatcherによると、研究者のZhengxuan Wu、Yuxuan Li、Oyvind Tafjord、Been Kimは、「XYEval: Agents Say Yes to Bad Advice」と題したプレプリントで、このフレームワークについて説明しました。これは「XY問題」をAIエージェントに拡張したものです。ユーザーが根本的な問題であるYではなく、提案された解決策Xについて質問する状況を指します。

XYEvalでは、元のタスク環境と検証可能な回答を維持しつつ、タスクを解ける状態のまま、もっともらしいものの誤解を招くユーザーの助言を指示として加えます。評価対象となったのは、τ2-bench、SWE-bench Verified、SWE-bench Pro、Terminal-Bench、Humanity’s Last Exam、MCP-Atlasの6つのベンチマークと、5つのモデルです。τ2-benchでは、人間の専門家が作成したルールを使って、誤解を招く助言を生成しました。

研究者らは、タスクが変更された後、相対的な性能が最大46.7%低下したと報告しました。τ2-benchでは、より良い解決策を受け入れる前にユーザーが詳細な説明を求めると、性能はさらに低下しました。モデルにXY問題を認識するよう促す簡単なシステム指示では、部分的な改善しか得られませんでした。コードはGitHubリポジトリ「google-deepmind/xyeval」で公開されています。