受歡迎的 YouTuber 和慈善家 MrBeast 最近與字節跳動有限公司的 TikTok 發生衝突，原因是該公司允許在其平臺上傳播一段深度僞造視頻。該視頻中，人工智能模仿 MrBeast 宣佈將以每臺僅 2 美元的價格大規模贈送 10,000 臺 iPhone 15 Pro。這一事件凸顯了人們對社交媒體平臺上人工智能深度僞造及其欺騙用戶的可能性日益增長的擔憂。在本文中，我們將深入探討這場爭議的細節及其對在線內容真實性的影響。

Deepfake 騙局

著名社交媒體平臺 TikTok 發佈了一則廣告，展示了人工智能生成的深度僞造版 MrBeast。在視頻中，這位冒名頂替者聲稱正在組織“全球最大的 iPhone 15 贈品活動”，每部 iPhone 售價僅爲 2 美元。這一大膽的提議自然引起了廣泛關注，尤其是考慮到 MrBeast 以舉辦贈品和比賽而聞名。

MrBeast 的迴應

在發現這段深度僞造視頻後，MrBeast 在社交媒體上表達了自己的擔憂。他指出，“很多人都從我這裏看到了這段深度僞造騙局廣告”，並質疑社交媒體平臺是否做好了充分準備來應對人工智能深度僞造的崛起。他的公開聲明加入了社交媒體上流傳的那些成爲深度僞造模仿受害者的名人的行列。

揭開 Deepfake 的面紗

儘管這段深度僞造廣告帶有 MrBeast 的官方徽標和藍色對勾，但敏銳的觀衆還是能看出人工智能操縱的跡象。觀察者注意到聲音失真和嘴部動作不自然，這兩者都是人工智能生成內容的特徵。儘管如此，這段視頻仍然獲得了關注，證明了此類騙局的有效性，尤其是在那些不太挑剔的用戶中。

抖音的迴應

針對這一爭議，TikTok 發言人證實，該欺詐性廣告在發佈幾小時後被迅速刪除，負責深度僞造的相關賬戶因違反政策而被關閉。TikTok 還採取措施打擊人工智能生成內容的泛濫，包括引入創作者標記此類內容的工具並測試自動標記機制。

名人深度僞造的趨勢

MrBeast 並不是唯一一個被深度僞造模仿的名人。最近，演員湯姆·漢克斯在 Instagram 上發表聲明，譴責一個深度僞造的自己在推廣牙科計劃。他澄清說，他“與此事無關”。同樣，羅賓·威廉姆斯的女兒塞爾達也表達了對人工智能重現她父親聲音的不滿，稱它們“令人不安”和“可怕的弗蘭肯斯坦怪物”。

英國演員斯蒂芬·弗萊也成爲人工智能濫用的受害者，他的聲音未經許可被用於與《哈利·波特》書籍相關的內容。這些事件凸顯了在先進人工智能技術時代深度僞造的速度越來越快。

檢測 Deepfakes 的挑戰

雖然谷歌等科技巨頭正在開發 SynthID 等解決方案來檢測人工智能生成的圖像，但解決深度僞造音頻和視頻仍然是一項複雜的挑戰。實時檢測人工智能操縱是一項艱鉅的任務，需要一段時間才能提供全面的解決方案。與此同時，敦促用戶謹慎行事，運用常識，並對看似可疑的內容進行事實覈查。

MrBeast 深度僞造爭議清楚地提醒人們，人工智能深度僞造在社交媒體領域帶來的風險。它強調了像 TikTok 這樣的平臺需要保持警惕，防止欺騙性內容的傳播。此外，它還強調了技術進步的緊迫性，以打擊人工智能生成的名人和公衆人物模仿行爲的泛濫。在全面解決方案到位之前，網絡用戶必須保持警惕和批判性，以防止成爲此類騙局的受害者。