人気YouTuberで慈善家のMrBeast氏は最近、ディープフェイク動画のプラットフォーム上での流通を許可したとしてByteDance Ltd.のTikTokと対峙した。このビデオには、AI が生成した MrBeast のなりすましが登場し、iPhone 15 Pro を 1 台わずか 2 ドルで 10,000 台に大規模にプレゼントすることを発表しました。この事件は、ソーシャルメディアプラットフォーム上のAIディープフェイクと、そのディープフェイクがユーザーを欺く可能性をめぐる懸念の高まりを浮き彫りにしている。この記事では、この論争の詳細と、オンライン コンテンツの信頼性に対するその影響について詳しく説明します。

ディープフェイク詐欺

有名なソーシャルメディアプラットフォームであるTikTokは、AIで生成されたMrBeastのディープフェイクバージョンを紹介する広告を掲載した。動画の中で、偽者は「世界最大のiPhone 15プレゼント企画」を企画しており、iPhoneは1台わずか2ドルで販売されると主張していた。この大胆なオファーは、MrBeastがプレゼント企画やコンテストを主催することで有名であることを考えると、当然ながら大きな注目を集めた。

MrBeastの反応

ディープフェイク動画を発見したミスタービーストは、ソーシャルメディアで懸念を表明した。彼は「多くの人が私のディープフェイク詐欺広告を受け取っている」と指摘し、ソーシャルメディアプラットフォームがAIディープフェイクの増加に対抗する十分な準備ができているかどうか疑問視した。彼の公の声明は、ソーシャルメディアで広まっているディープフェイクのなりすましの犠牲になった有名人の声に彼も加わった。

ディープフェイクの正体を暴く

ディープフェイク広告には MrBeast の公式ロゴと青いチェックマークが使われていたが、鋭い観察者には AI による操作の兆候が見分けられた。観察者は、歪んだ声と不自然な口の動きに気づいたが、どちらも AI 生成コンテンツの特徴である。それにもかかわらず、この動画は注目を集め、特に洞察力の弱いユーザーの間では、このような詐欺の有効性を実証した。

TikTokの反応

この論争を受けて、TikTokの広報担当者は、不正な広告は投稿から数時間後に速やかに削除され、ディープフェイクを作成した関連アカウントはポリシー違反のため削除されたことを確認した。TikTokはまた、クリエイターがAI生成コンテンツにラベルを付けるツールを導入し、自動ラベル付けメカニズムをテストすることで、AI生成コンテンツの急増に対抗する措置を講じている。

有名人のディープフェイクのトレンド

ディープフェイクのなりすましの標的となった有名人はミスタービーストだけではない。最近、俳優のトム・ハンクスがインスタグラムで声明を発表し、歯科治療プランを宣伝する自身のディープフェイク版を非難した。彼は「一切関係ない」と明言した。同様に、ロビン・ウィリアムズの娘ゼルダも父親の声をAIで再現したものに不快感を示し、「個人的に不快」で「恐ろしいフランケンシュタインの怪物」と呼んだ。

英国人俳優のスティーブン・フライもAIの悪用被害に遭い、ハリー・ポッターの本に関連したコンテンツに彼の声が無断で使用された。これらの事件は、高度なAI技術の時代にディープフェイクが急増していることを浮き彫りにしている。

ディープフェイク検出の課題

Google などの大手テクノロジー企業は、AI が生成した画像を検出する SynthID などのソリューションに取り組んでいますが、ディープフェイクの音声や動画への対処は依然として複雑な課題です。AI による操作をリアルタイムで検出するのは困難な作業であり、包括的なソリューションが利用可能になるまでには時間がかかります。それまでの間、ユーザーは注意を払い、常識を働かせ、疑わしいと思われるコンテンツを事実確認することが求められます。

MrBeast ディープフェイク論争は、ソーシャル メディアの領域で AI ディープフェイクがもたらすリスクをはっきりと思い起こさせるものです。この論争は、TikTok のようなプラットフォームが欺瞞的なコンテンツの拡散を防ぐために警戒を怠らないようにする必要があることを浮き彫りにしています。さらに、AI によって生成された有名人や公人のなりすましの急増に対抗するために、技術の進歩が緊急に必要であることを強調しています。包括的な解決策が確立されるまで、オンライン ユーザーは、このような詐欺の被害者にならないように警戒を怠らず、批判的にならなければなりません。