在AI生成的深度僞造內容激增之際，來自明尼蘇達州的民主黨參議員艾米·克洛布查和紐約州的民主黨衆議員伊薇特·克拉克呼籲包括Meta（Facebook和Instagram的母公司）和X（前身爲Twitter）在內的主要社交媒體平臺澄清其對欺騙性AI生成政治廣告的立場。

在給Meta首席執行官馬克·扎克伯格和X首席執行官琳達·雅卡里諾的信中，立法者表達了對這些平臺上出現的AI生成政治廣告的“嚴重擔憂”，並敦促他們披露任何正在實施的措施，以應對潛在的虛假信息和誤導信息在2024年美國總統大選前的傳播。

2024年美國總統大選前日益嚴重的擔憂

隨着2024年美國總統大選的臨近，克洛布查和克拉克強調了社交媒體平臺上有關AI生成政治內容的透明度的重要性。他們聲稱，缺乏透明度可能導致選舉相關虛假信息和誤導信息的危險氾濫，因爲許多選民依賴這些平臺獲取有關候選人和問題的信息。信中呼籲Meta和X迅速回應，要求他們在10月27日前解決提出的擔憂。

社交媒體公司面臨的壓力與國會兩黨在監管AI生成政治廣告方面的努力相吻合。今年早些時候，衆議員伊薇特·克拉克提出了一項衆議院法案，旨在修訂聯邦選舉法，要求對包含AI生成圖像或視頻的選舉廣告進行免責聲明。同時，參議員艾米·克洛布查也在參議院贊助相關立法，希望在年底之前通過。

立法者將這些監管努力視爲確保數字時代政治話語完整性的必要步驟。克洛布查表示，儘管這些立法措施至關重要，但他們希望主要的科技平臺能夠主動採取措施，自願解決這一問題。

谷歌的預防措施和Meta的現有政策

谷歌已經朝着正確的方向邁出了一步，宣佈從11月中旬開始，所有在YouTube和其他谷歌產品上改變人或事件的AI生成選舉廣告都需要明確的免責聲明，無論是在美國還是國際上。

另一方面，Meta目前缺乏關於AI生成政治廣告的具體規則。然而，它確實有一項政策，限制用於誤導目的的“僞造、操縱或變換”的音頻和圖像。

除了克拉克和克洛布查的努力外，最近由克洛布查和密蘇里州的共和黨參議員喬什·霍利共同發起的兩黨參議院法案尋求進一步禁止與聯邦候選人相關的“實質性欺騙性”深度僞造。這項提議的立法包括對惡搞和諷刺的例外，強調區分有害欺騙性內容和合法表達形式的重要性。

AI生成的政治廣告在2024年選舉前已經顯現出影響力。特別是，共和黨全國委員會在4月播出了一則廣告，利用虛假但高度逼真的圖像描繪如果總統喬·拜登連任將會出現的反烏托邦未來。該廣告展示了封閉的商店、軍事巡邏和移民潮，旨在影響公衆輿論。

克洛布查強調，根據提議的規則，此類廣告和類似廣告可能會被禁止。這也適用於一張虛假的圖像，顯示唐納德·特朗普擁抱安東尼·福奇博士，該圖像被特朗普的共和黨初選對手和佛羅里達州州長羅恩·德桑蒂斯用於攻擊廣告。

政治中深度僞造視頻的挑戰

深度僞造視頻，例如虛假描繪民主黨參議員伊麗莎白·沃倫倡導限制共和黨投票的那一則，給政治話語的準確性和可信度帶來了重大挑戰。候選人可能被描繪成說出他們從未說過的話，使得區分事實與虛構變得愈加困難。

在9月27日由參議員克洛布查主持的聽證會上，提出了關於AI和未來選舉的各種觀點。儘管承認了深度僞造帶來的影響，但一些人認爲現有的言論自由保護不應受到妥協。智庫TechFreedom的律師阿里·科恩指出，深度僞造對選民行爲沒有顯著影響，並質疑新法規的必要性。

聯邦選舉委員會在8月採取了一項程序步驟，可能會規範政治廣告中的AI生成深度僞造。他們接受了倡導組織公共公民的請願，開發關於政治廣告中誤導性圖像、視頻和音頻片段的規則，並公開徵求意見。該請願的意見徵集期將於10月16日結束。

隨着2024年美國總統大選的臨近，關於AI生成政治內容的角色和監管的辯論愈演愈烈，立法者、科技巨頭和監管機構尋求在言論自由和防止政治話語中的欺騙之間取得平衡。