Indický národní kongres (INC) a Bharatiya Janata Party (BJP) se pustily do politického obsahu vytvořeného umělou inteligencí na svých oficiálních stránkách Instagramu. Nasazení umělé inteligence při vytváření a šíření politických zpráv signalizuje změnu paradigmatu ve vizuální politice, což vyvolává otázky o transparentnosti a zveřejňování.

20. února vydala INC na Instagramu satirické video, parodující premiéra Narendru Modiho prostřednictvím hindského hudebního alba s názvem „Chor“ (zloděj). Video, které bylo zhlédnuto více než 1,5 milionukrát, vtipně zobrazuje obchodního magnáta, který se pokouší krást, přičemž Modi zdánlivě předává klíčová aktiva. Přestože obsah není hyperrealistický, využívá memy generované umělou inteligencí, využívá Modiho hlas a rysy obličeje ke zdůraznění kritiky jeho údajných vazeb na obchodní magnáty.

V reakci na to BJP, která se může pochlubit více než sedmi miliony sledujících na Instagramu, nahrála minutový klip představující Modiho úspěchy za posledních devět let. To, co to odlišuje, je použití hlasu generovaného umělou inteligencí, který zpívá vlasteneckou hindskou píseň, zdůrazňující Modiho příspěvky farmářům a indickým vědcům. Zvuk, potvrzený jako umělá inteligence generovaný forenzními experty, znamenal pro politické strany v Indii významný odklon.

Války AI zpochybňují zásady platforem

Recenze od Al-Džazíry odhalila od 20. února nejméně tři případy obsahu vytvořeného nebo pozměněného AI na oficiálních stránkách Instagramu obou hlavních politických stran. Obsah, včetně klipů umístěných na YouTube a Facebooku, vzbuzuje obavy ohledně hranic zásady platformy týkající se klamavého politického obsahu. Současná pravidla Meta nařizují inzerentům zveřejňovat použití AI v politických reklamách, ale toto ustanovení se nevztahuje na politické stránky a účty.

Zatímco Meta nereagovala na dotazy týkající se zásad označování AI, dozorčí rada naléhala na společnost, aby rozšířila svou politiku manipulovaných médií tak, aby pokrývala falešný zvuk a označila zavádějící obsah. Na druhou stranu YouTube plánuje vyžadovat od tvůrců, aby zveřejnili použití umělé inteligence v realisticky pozměněném nebo syntetickém obsahu, jak je uvedeno v blogovém příspěvku z listopadu 2023.

Navzdory zjevným hluboce falešným nesrovnalostem se video INC na internetu velmi zasmálo a poukázalo na rostoucí vliv memů vylepšených umělou inteligencí v politické komunikaci. Vaibhav Walia, předseda komunikační válečné místnosti INC pro volby v roce 2024, zdůraznil efektivitu komunikace založené na memech při předávání poselství strany na sociálních sítích. Poznamenal, že používání umělé inteligence je v souladu s potřebou vytvářet výjimečný obsah, který upoutá pozornost voličů ve věku trendů sociálních médií řízených memy.

Podezřelé klipy AI od BJP však představovaly výzvu pro odborníky na detekci, přičemž názory na to, zda byl obsah vylepšený AI, byly rozdílné. Mluvčí strany Gaurav Bhatia k této záležitosti mlčel. Rekreace hindské písně ze 70. let vytvořená umělou inteligencí, potvrzená odborníky, využila model konverze hlasu založeného na vyhledávání (RVC) k syntetické transformaci jedinečného hlasu na hlas legendárního zpěváka Mahendry Kapoora.

Výzva k povinnému zveřejňování obsahu politické AI

Vzhledem k tomu, že politické organizace stále více využívají AI pro tvorbu obsahu, odborníci obhajují povinné zveřejňování obsahu upraveného AI na politických stránkách. Díky rychlé schopnosti umělé inteligence napodobovat realitu se takovéto zveřejnění stávají zásadními pro prevenci potenciálních dezinformací. Indická volební komise však o pokynech týkajících se politických stran sdílejících obsah upravený umělou inteligencí mlčela.

Výzkumník dezinformací Tarunima Prabhakar zdůraznil nutnost zveřejňování informací, protože obsah generovaný umělou inteligencí získává schopnost přesvědčivěji napodobovat realitu. Politická satira využívající umělou inteligenci, která zahrnuje technologii deepfake, vyžaduje ochranu, aby byla zachována svoboda slova. Potřeba jasného zveřejnění se stává ještě kritičtější v demokratických kontextech, kde by předpisy měly rozlišovat mezi satirou a dezinformacemi.

Vzhledem k tomu, že politické strany v Indii přijímají umělou inteligenci pro tvorbu obsahu, krajina politické komunikace prochází transformačním posunem. Etické důsledky používání umělé inteligence v politickém zasílání zpráv a problémy s odhalováním a zveřejňováním vyžadují odlišný přístup. S vývojem technologie se musí vyvíjet i regulace a opatření transparentnosti, která zajistí odpovědné používání umělé inteligence při utváření politických příběhů. Vznik politického obsahu vylepšeného umělou inteligencí představuje klíčový okamžik, který vyžaduje křehkou rovnováhu mezi inovacemi a etickými ohledy v rozvíjející se digitální éře.