OpenAI hat einen alarmierenden Fall offengelegt: Iranische Akteure sollen ChatGPT genutzt haben, um mehr als 100 Artikel zu verfassen und zu verbreiten, in denen der Krieg der USA gegen den Iran kritisiert wird.
An der Aktion waren sieben „Fake-Journalisten“ beteiligt. Die Inhalte wurden bei rund einem Dutzend Medien weltweit veröffentlicht.
Wirklich bemerkenswert ist dabei nicht, dass KI Artikel schreiben kann, sondern dass sie die Kosten für die Produktion von Inhalten im Informationskrieg drastisch senkt.
Früher brauchte man für eine grenzüberschreitende Kampagne zur Beeinflussung der öffentlichen Meinung ein ganzes Team aus Journalisten, Redakteuren, Übersetzern und Mitarbeitenden für die operative Umsetzung. Heute können Modelle Inhalte schnell erstellen, umschreiben und übersetzen. So kann eine kleine Gruppe eine Menge an Inhalten produzieren, für die früher ein deutlich größeres Team nötig gewesen wäre.
Die Identität als „Fake-Journalist“ ist womöglich noch alarmierender als die mehr als 100 Artikel.
Denn im Informationskrieg muss man dich nicht unbedingt von einer bestimmten Ansicht überzeugen. Es reicht, wenn du denkst: „Das ist ein ganz normaler Nachrichtenartikel.“
Wenn Artikel, Journalistenidentitäten und sogar die Aufmachung von Medien in großer Zahl hergestellt werden können, gerät die herkömmliche Art, Informationen zu beurteilen, unter Druck.
KI senkt nicht nur die Schreibschwelle, sondern auch die Kosten dafür, glaubwürdige Quellen vorzutäuschen.
Was in Zukunft wirklich knapp sein könnte, sind also nicht Informationen, sondern Glaubwürdigkeit.
Bevor du einen Artikel liest, solltest du dich nicht nur fragen, was darin steht, sondern auch: Wer produziert ihn? Wer veröffentlicht ihn? Wem nützt diese Erzählung?
An der Aktion waren sieben „Fake-Journalisten“ beteiligt. Die Inhalte wurden bei rund einem Dutzend Medien weltweit veröffentlicht.
Wirklich bemerkenswert ist dabei nicht, dass KI Artikel schreiben kann, sondern dass sie die Kosten für die Produktion von Inhalten im Informationskrieg drastisch senkt.
Früher brauchte man für eine grenzüberschreitende Kampagne zur Beeinflussung der öffentlichen Meinung ein ganzes Team aus Journalisten, Redakteuren, Übersetzern und Mitarbeitenden für die operative Umsetzung. Heute können Modelle Inhalte schnell erstellen, umschreiben und übersetzen. So kann eine kleine Gruppe eine Menge an Inhalten produzieren, für die früher ein deutlich größeres Team nötig gewesen wäre.
Die Identität als „Fake-Journalist“ ist womöglich noch alarmierender als die mehr als 100 Artikel.
Denn im Informationskrieg muss man dich nicht unbedingt von einer bestimmten Ansicht überzeugen. Es reicht, wenn du denkst: „Das ist ein ganz normaler Nachrichtenartikel.“
Wenn Artikel, Journalistenidentitäten und sogar die Aufmachung von Medien in großer Zahl hergestellt werden können, gerät die herkömmliche Art, Informationen zu beurteilen, unter Druck.
KI senkt nicht nur die Schreibschwelle, sondern auch die Kosten dafür, glaubwürdige Quellen vorzutäuschen.
Was in Zukunft wirklich knapp sein könnte, sind also nicht Informationen, sondern Glaubwürdigkeit.
Bevor du einen Artikel liest, solltest du dich nicht nur fragen, was darin steht, sondern auch: Wer produziert ihn? Wer veröffentlicht ihn? Wem nützt diese Erzählung?