AIが政治的な影響力を行使するためのツールとして使われました。

OpenAIによると、ChatGPTを使って人々を欺くコンテンツを作成していた、ロシアとイランに関連する2つの秘密工作を最近阻止し、アカウントを停止しました。

報道によると、ロシアの工作では、ラテンアメリカの人々を標的とした偽の「シンクタンク」の運営や影響力工作を支援するためにChatGPTが使われていました。一方、イランの工作では、複数の偽のジャーナリストになりすまし、地政学に関する記事をオンラインメディアに売り込んでいました。

もはや、AIが文章を生成するだけの話ではありません。

偽の身元、コンテンツ、配信、信頼性など、影響力工作を支える基盤全体の構築にAIが使われているのです。

恐ろしいのはここです。

AIそのものがプロパガンダである必要はありません。その背後にある製造工場になり得るのです。

AIによって影響力工作が大規模化するなか、何が本当なのかを見分けるのは、どれほど難しくなるのでしょうか？