Von KI generierte politische Memes sorgen bei indischen Wahlen für Kontroversen

Der Indische Nationalkongress (INC) und die Bharatiya Janata Party (BJP) haben sich auf ihren offiziellen Instagram-Accounts an KI-erstellte politische Inhalte gewagt. Der Einsatz künstlicher Intelligenz bei der Erstellung und Verbreitung politischer Botschaften signalisiert einen Paradigmenwechsel in der visuellen Politik und wirft Fragen zu Transparenz und Offenlegung auf.
Am 20. Februar veröffentlichte der INC auf Instagram ein satirisches Video, in dem Premierminister Narendra Modi mit einem Hindi-Musikalbum namens „Chor“ (Dieb) parodiert wird. Das Video, das über 1,5 Millionen Mal angesehen wurde, zeigt auf humorvolle Weise einen Wirtschaftsmagnaten, der zu stehlen versucht, wobei Modi scheinbar wichtige Vermögenswerte übergibt. Obwohl der Inhalt nicht hyperrealistisch ist, verwendet er KI-generierte Memes und nutzt Modis Stimme und Gesichtszüge, um die Kritik an seinen angeblichen Verbindungen zu Wirtschaftsmagnaten zu unterstreichen.
Als Reaktion darauf lud die BJP, die auf Instagram über sieben Millionen Follower hat, einen einminütigen Clip hoch, in dem sie Modis Erfolge der letzten neun Jahre präsentierte. Das Besondere daran ist, dass eine KI-generierte Stimme ein patriotisches Hindi-Lied singt und Modis Verdienste für Landwirte und indische Wissenschaftler hervorhebt. Forensische Experten bestätigten, dass dieser Audioclip KI-generiert war, und markierte damit einen bedeutenden Aufbruch für die politischen Parteien in Indien.
KI-Kriege stellen Plattformrichtlinien in Frage
Eine Überprüfung durch Al Jazeera ergab seit dem 20. Februar mindestens drei Fälle von KI-erstellten oder veränderten Inhalten auf den offiziellen Instagram-Accounts der beiden großen politischen Parteien. Die Inhalte, darunter Clips, die auch auf YouTube und Facebook gepostet wurden, geben Anlass zur Sorge, ob die Plattformrichtlinien für irreführende politische Inhalte auch wirklich gültig sind. Die aktuellen Regeln von Meta verpflichten Werbetreibende, den Einsatz von KI in politischen Anzeigen offenzulegen, diese Bestimmung gilt jedoch nicht für politische Seiten und Accounts.
Während Meta nicht auf Anfragen zu KI-Kennzeichnungsrichtlinien antwortete, forderte das Oversight Board das Unternehmen auf, seine Richtlinie zu manipulierten Medien auszuweiten, um gefälschte Audiodaten abzudecken und irreführende Inhalte zu kennzeichnen. Auf der anderen Seite plant YouTube, von den Erstellern zu verlangen, den Einsatz von KI in realistisch veränderten oder synthetischen Inhalten offenzulegen, wie in einem Blogbeitrag vom November 2023 angegeben.
Obwohl das Video des INC offensichtliche Deepfake-Unstimmigkeiten aufwies, sorgte es im Internet für viel Gelächter und verdeutlichte den wachsenden Einfluss von KI-gestützten Memes in der politischen Kommunikation. Vaibhav Walia, Vorsitzender des Kommunikations-Warrooms des INC für die Wahlen 2024, betonte die Wirksamkeit der Meme-basierten Kommunikation bei der Vermittlung der Botschaft der Partei in den sozialen Medien. Er merkte an, dass der Einsatz von KI mit der Notwendigkeit übereinstimmt, herausragende Inhalte zu erstellen, die im Zeitalter von Meme-getriebenen Social-Media-Trends die Aufmerksamkeit der Wähler auf sich ziehen.
Die mutmaßlichen KI-Clips der BJP stellten jedoch eine Herausforderung für Erkennungsexperten dar, da die Meinungen darüber, ob der Inhalt KI-verbessert war, geteilt waren. Der Sprecher der Partei, Gaurav Bhatia, schwieg zu dieser Angelegenheit. Die KI-generierte Nachbildung eines Hindi-Songs aus den 1970er Jahren, die von Experten bestätigt wurde, nutzte das Retrieval-Based Voice Conversion (RVC)-Modell, um eine einzigartige Stimme synthetisch in die des legendären Sängers Mahendra Kapoor zu verwandeln.
Forderung nach verpflichtenden Offenlegungen in politischen KI-Inhalten
Da politische Organisationen KI zunehmend zur Inhaltserstellung nutzen, plädieren Experten für eine obligatorische Offenlegung von KI-bearbeiteten Inhalten auf politischen Seiten. Angesichts der schnellen Fähigkeit der KI, die Realität nachzuahmen, werden solche Offenlegungen entscheidend, um potenzielle Fehlinformationen zu verhindern. Die indische Wahlkommission hat sich jedoch zu Richtlinien für politische Parteien, die KI-bearbeitete Inhalte teilen, nicht geäußert.
Die Desinformationsforscherin Tarunima Prabhakar betonte die Notwendigkeit von Offenlegungen, da KI-generierte Inhalte die Realität immer überzeugender nachahmen können. Politische Satire unter Verwendung von KI, zu der auch Deepfake-Technologie gehört, muss geschützt werden, um die Meinungsfreiheit zu wahren. Die Notwendigkeit einer klaren Offenlegung wird in demokratischen Kontexten, in denen Vorschriften zwischen Satire und Desinformation unterscheiden sollten, noch wichtiger.
Da die politischen Parteien in Indien KI zur Inhaltserstellung nutzen, erfährt die Landschaft der politischen Kommunikation einen grundlegenden Wandel. Die ethischen Implikationen des Einsatzes von KI in politischen Botschaften und die Herausforderungen der Erkennung und Offenlegung erfordern einen differenzierten Ansatz. Mit der Weiterentwicklung der Technologie müssen auch Vorschriften und Transparenzmaßnahmen geschaffen werden, um den verantwortungsvollen Einsatz von KI bei der Gestaltung politischer Narrative sicherzustellen. Das Aufkommen von KI-gestützten politischen Inhalten markiert einen Wendepunkt und erfordert ein empfindliches Gleichgewicht zwischen Innovation und ethischen Überlegungen im sich entwickelnden digitalen Zeitalter.