KI wird jetzt als Werkzeug zur politischen Einflussnahme eingesetzt.
OpenAI zufolge hat das Unternehmen kürzlich zwei verdeckte Einflusskampagnen mit Verbindungen zu Russland und Iran aufgedeckt und unterbunden, bei denen ChatGPT zur Erstellung irreführender Inhalte genutzt wurde.
Die russische Kampagne soll ChatGPT genutzt haben, um einen gefälschten „Thinktank“ und Einflussaktivitäten aufzubauen, die sich an ein Publikum in Lateinamerika richteten. Die iranische Kampagne wiederum setzte mehrere gefälschte Journalistenprofile ein, um geopolitische Artikel bei Online-Medien unterzubringen.
Es geht längst nicht mehr nur darum, dass KI Texte generiert.
Es geht darum, dass KI dabei hilft, die gesamte Infrastruktur für Einflusskampagnen aufzubauen – gefälschte Identitäten, Inhalte, Verbreitung und Glaubwürdigkeit.
Das Beunruhigende daran?
KI muss nicht selbst die Propaganda sein. Sie kann die Fabrik dahinter sein.
Wie viel schwieriger wird es, Realität von Täuschung zu unterscheiden, wenn sich Einflusskampagnen mithilfe von KI skalieren lassen?
OpenAI zufolge hat das Unternehmen kürzlich zwei verdeckte Einflusskampagnen mit Verbindungen zu Russland und Iran aufgedeckt und unterbunden, bei denen ChatGPT zur Erstellung irreführender Inhalte genutzt wurde.
Die russische Kampagne soll ChatGPT genutzt haben, um einen gefälschten „Thinktank“ und Einflussaktivitäten aufzubauen, die sich an ein Publikum in Lateinamerika richteten. Die iranische Kampagne wiederum setzte mehrere gefälschte Journalistenprofile ein, um geopolitische Artikel bei Online-Medien unterzubringen.
Es geht längst nicht mehr nur darum, dass KI Texte generiert.
Es geht darum, dass KI dabei hilft, die gesamte Infrastruktur für Einflusskampagnen aufzubauen – gefälschte Identitäten, Inhalte, Verbreitung und Glaubwürdigkeit.
Das Beunruhigende daran?
KI muss nicht selbst die Propaganda sein. Sie kann die Fabrik dahinter sein.
Wie viel schwieriger wird es, Realität von Täuschung zu unterscheiden, wenn sich Einflusskampagnen mithilfe von KI skalieren lassen?