BlockBeatsによると、AI研究者のアビ・ラグラムは、Notionの新しくリリースされたAIエージェントにおけるプロンプトインジェクションの脆弱性を特定しました。このセキュリティリスクにより、攻撃者はPDFのようなファイルに隠されたテキスト、例えば白いフォントを埋め込むことができます。ユーザーがこれらのファイルをAIエージェントで処理すると、隠されたプロンプトが実行される可能性があり、外部アドレスへの機密情報の送信につながる恐れがあります。
研究者たちは、このような攻撃がしばしば権威の偽装、緊急性の創出、虚偽のセキュリティ保証の提供などのソーシャルエンジニアリング戦術を使用することを強調しています。専門家は、ユーザーがAIエージェントに対して未知のソースからのPDFやファイルのアップロードを避けることで注意を払うようアドバイスしています。また、エージェントのインターネットアクセスとデータエクスポートの権限を厳格に制限し、疑わしいファイルに対してステガノグラフィの除去またはクレンジングを行い、手動レビューを実施することが推奨されています。さらに、外部提出の前にAIエージェントが明確な確認プロンプトを表示するよう要求することで、機密データ漏洩のリスクを軽減することができます。