偽造文書が5件あれば、AI検索の検索段階を狂わせるには十分です。

Crypto Briefingは、こうしたシステムが「クエリ・エコー」型の攻撃を受けやすいとするGoogleの研究を報じました。攻撃者がユーザーのクエリにぴったり合う文書を作成すると、検索結果の上位に表示され、最終的な回答に影響を与える可能性があります。

· 影響を受けるのは検索段階であり、モデル自体の知識ではありません。
· 報道では、テスト対象のモデルやデータセット、成功率は示されておらず、結論は「こうした脆弱性が存在する」という範囲にとどまっています。

検索機能付きのAIツールを使うとき、まず確認するのは引用された情報源の数ですか？それとも、リンク先を開いて内容を確かめられるかどうかですか？