Kongres Nasional India (INC) dan Partai Bharatiya Janata (BJP) telah merambah konten politik buatan AI di akun Instagram resmi mereka. Penerapan kecerdasan buatan dalam menciptakan dan menyebarkan pesan-pesan politik menandakan perubahan paradigma dalam politik visual, sehingga menimbulkan pertanyaan tentang transparansi dan keterbukaan.

Pada tanggal 20 Februari, INC merilis video satir di Instagram, memparodikan Perdana Menteri Narendra Modi melalui album musik Hindi bernama “Chor” (pencuri). Video tersebut, yang telah ditonton lebih dari 1,5 juta kali, secara lucu menggambarkan seorang taipan bisnis yang mencoba mencuri, dan Modi tampaknya menyerahkan aset-aset penting. Meskipun tidak terlalu realistis, konten tersebut menggunakan meme yang dihasilkan oleh AI, memanfaatkan suara dan fitur wajah Modi untuk menonjolkan kritik atas dugaan hubungannya dengan tokoh bisnis terkemuka.

Sebagai tanggapan, BJP, yang memiliki lebih dari tujuh juta pengikut di Instagram, mengunggah klip berdurasi satu menit yang menampilkan pencapaian Modi selama sembilan tahun terakhir. Yang membedakannya adalah penggunaan suara yang dihasilkan AI untuk menyanyikan lagu Hindi yang patriotik, yang menekankan kontribusi Modi terhadap petani dan ilmuwan India. Audio tersebut, yang dikonfirmasi sebagai buatan AI oleh para ahli forensik, menandai perubahan signifikan bagi partai politik di India.

Perang AI menantang kebijakan platform

Tinjauan yang dilakukan oleh Al Jazeera mengungkapkan setidaknya tiga contoh konten yang dibuat atau diubah oleh AI di akun Instagram resmi kedua partai politik besar sejak 20 Februari. Konten tersebut, termasuk klip yang diunggah secara silang di YouTube dan Facebook, menimbulkan kekhawatiran tentang batasan-batasan yang ada. kebijakan platform tentang konten politik yang menipu. Aturan Meta saat ini mengamanatkan pengiklan untuk mengungkapkan penggunaan AI dalam iklan politik, namun ketentuan ini tidak mencakup halaman dan akun politik.

Meskipun Meta tidak menanggapi pertanyaan tentang kebijakan pelabelan AI, Dewan Pengawas mendesak perusahaan untuk memperluas kebijakan media yang dimanipulasi untuk mencakup audio palsu dan memberi label pada konten yang menyesatkan. Di sisi lain, YouTube berencana mewajibkan pembuat konten untuk mengungkapkan penggunaan AI dalam konten yang diubah atau sintetis secara realistis, sebagaimana dinyatakan dalam postingan blog pada November 2023.

Meskipun jelas menunjukkan perbedaan deepfake, video INC mendapat banyak tawa di dunia maya, menyoroti semakin besarnya pengaruh meme yang dilengkapi AI dalam komunikasi politik. Vaibhav Walia, Ketua Ruang Perang Komunikasi INC Pemilu 2024, menekankan efektivitas komunikasi berbasis meme dalam menyampaikan pesan partai di media sosial. Dia mencatat bahwa penggunaan AI sejalan dengan kebutuhan untuk menciptakan konten menonjol yang menarik perhatian pemilih di era tren media sosial yang didorong oleh meme.

Namun, dugaan klip AI dari BJP menimbulkan tantangan bagi para ahli pendeteksi, dengan adanya perbedaan pendapat mengenai apakah konten tersebut disempurnakan dengan AI. Juru bicara partai, Gaurav Bhatia, tetap bungkam mengenai masalah ini. Reka ulang lagu Hindi tahun 1970-an yang dihasilkan oleh AI, dikonfirmasi oleh para ahli, menggunakan model konversi suara berbasis pengambilan (RVC) untuk secara sintetis mengubah suara unik menjadi suara penyanyi legendaris Mahendra Kapoor.

Menyerukan pengungkapan wajib dalam konten AI politik

Ketika organisasi politik semakin memanfaatkan AI untuk pembuatan konten, para ahli menganjurkan pengungkapan wajib atas konten yang diedit oleh AI di halaman politik. Dengan kemampuan AI yang cepat untuk meniru kenyataan, pengungkapan tersebut menjadi penting untuk mencegah potensi misinformasi. Namun, Komisi Pemilihan Umum India tetap bungkam mengenai pedoman mengenai partai politik yang membagikan konten yang diubah oleh AI.

Peneliti misinformasi Tarunima Prabhakar menekankan perlunya pengungkapan karena konten yang dihasilkan AI mempunyai kemampuan untuk meniru kenyataan dengan lebih meyakinkan. Sindiran politik yang menggunakan AI, termasuk teknologi deepfake, menuntut perlindungan untuk menjaga kebebasan berpendapat. Kebutuhan akan pengungkapan yang jelas menjadi semakin penting dalam konteks demokrasi dimana peraturan harus membedakan antara sindiran dan disinformasi.

Ketika partai politik di India menggunakan AI untuk pembuatan konten, lanskap komunikasi politik mengalami perubahan yang transformatif. Implikasi etis dari penggunaan AI dalam penyampaian pesan politik serta tantangan dalam pendeteksian dan pengungkapan memerlukan pendekatan yang berbeda. Seiring dengan berkembangnya teknologi, peraturan dan langkah-langkah transparansi juga harus diterapkan untuk memastikan penggunaan AI secara bertanggung jawab dalam membentuk narasi politik. Munculnya konten politik yang dilengkapi AI menandai momen penting yang menuntut keseimbangan antara inovasi dan pertimbangan etis di era digital yang terus berkembang.