OpenAI erklärte, ein Netzwerk von Konten aus Russland und Iran aufgedeckt und gesperrt zu haben, das ChatGPT nutzte, um falsche Journalisten und getarnte Thinktanks zu betreiben. Eine der Gruppen veröffentlichte allein fast 100 Artikel in verschiedenen Medien.

Die wichtigsten Punkte:

• OpenAI sperrt zwei Cluster von ChatGPT-Konten mit Verbindungen zu Russland und Iran – Hinweise auf Unterstützung fingierter Tarnorganisationen

• Sieben falsche Journalisten veröffentlichten oder verbreiteten rund 100 Artikel in mehr als zehn Medien

• Russische Einflussoperation erreicht erstmals die Stufe 5 – fast die höchste von sechs auf OpenAIs „Breakout Scale“

Sperrung russischer und iranischer ChatGPT-Konten

In einem am Donnerstag veröffentlichten Bericht teilte OpenAI mit, zwei verdeckte Operationen aufgedeckt zu haben, die um sogenannte „False-Front-Organisationen“ herum aufgebaut waren. Beide Cluster griffen über VPN auf ChatGPT zu. OpenAI stellte nicht eindeutig fest, dass eine der beiden direkt mit einer bestimmten Regierungsbehörde verbunden war. Die iranischen Aktivitäten bewertete das Unternehmen jedoch als eher mit einer kommerziellen, „ausgelagerten“ Einflussoperation vergleichbar.

Die iranische Operation trug intern den Decknamen „Bogus Bylines“. Dabei traten sieben gefälschte Journalisten auf, die sich als westliche Medienschaffende ausgaben und Redaktionen fortlaufend längere Analyseartikel zum Konflikt zwischen den USA und Iran anboten. OpenAI identifizierte etwa 100 Artikel, die unter ihren Namen veröffentlicht oder erneut veröffentlicht wurden. Die Zielmedien umfassten rund zehn kleine und mittelgroße Nachrichtenorganisationen. Der erste Artikel erschien im Juli 2025, der jüngste nach Erkenntnissen von OpenAI in diesem Monat.

Die russische Operation trug den Namen „Dark Clark“ und zielte vor allem darauf ab, die öffentliche Meinung in Lateinamerika zu beeinflussen und das Ansehen der Ukraine zu beschädigen. Die Drahtzieher gaben vor, eine eigene Forschungsplattform namens „Social Research Center“ zu betreiben, und stellten die fiktive Figur „Mia Clark“ in den Vordergrund. Nach Einschätzung von OpenAI deuteten die verfügbaren Belege darauf hin, dass viele der vor Ort tatsächlich tätigen Mitarbeiter offenbar nicht wussten, dass sie mit einer russischen Organisation verbunden waren.

Verwandter Artikel: Krypto-ETF gewinnt nach Kapitalzuflüssen von 50 Milliarden Dollar an Dynamik, JPMorgan

Bewertung auf der „Breakout Scale“

OpenAI teilte mit, die russische Operation „Dark Clark“ auf Stufe 5 der sechsstufigen „Breakout Scale“ eingestuft zu haben, mit der das Ausmaß der Verbreitung von Einfluss gemessen wird. Damit erreichte zum ersten Mal ein Fall Stufe 5, seit das Unternehmen entsprechende Berichte veröffentlicht. Als Belege wurden unter anderem Hinweise angeführt, dass Politiker in mehreren Ländern öffentliche Aussagen auf Grundlage der gefälschten Inhalte gemacht hatten.

Die iranische Operation zur Verbreitung gefälschter Artikel wurde auf Stufe 4 eingestuft, die Aktivitäten in den Kommentaren sozialer Medien auf Stufe 2. Die meisten Kommentare erhielten nur einstellige, allenfalls zweistellige Zahlen an Likes und Aufrufen. OpenAI erklärte, in den vergangenen zweieinhalb Jahren insgesamt 30 verdeckte Einflussoperationen aufgedeckt zu haben. Dabei hätten Fälle, in denen Inhalte in tatsächlichen Medien veröffentlicht wurden, tendenziell die größte Reichweite erzielt.

Einige der von „Dark Clark“ verbreiteten Falschinformationen machten so sehr die Runde, dass sie Faktenchecks und offizielle Dementis der Regierung nach sich zogen. Dazu gehörte eine gefälschte Audiodatei mit der Behauptung, die bolivianische Regierung werde die Trinkwasserversorgung in der Region La Paz einstellen. OpenAI warnte jedoch davor, die Angaben zu deren Einfluss ungeprüft zu übernehmen: Einflussoperationen brüsteten sich mitunter mit Erfolgen, die auf Ereignisse zurückgingen, mit denen sie nichts zu tun hatten.

Die zuvor von OpenAI veröffentlichten Fälle hatten eine deutlich begrenztere Wirkung. Im August 2024 sperrte das Unternehmen Konten, die mit der iranischen Einflussoperation „Storm-2035“ in Verbindung standen. Die Betreiber waren dabei ertappt worden, mit ChatGPT Inhalte für fünf Websites zu erstellen, die Nachrichtenmedien imitierten. Damals wurde die Operation auf Stufe 2 der Breakout Scale eingestuft.

Der damalige Untersuchungsleiter von OpenAI, **Ben Nimmo**, schätzte ein, dass die Operation versucht habe, beide politischen Lager gleichzeitig zu provozieren, offenbar aber auf keiner Seite nennenswerte Resonanz erzielt habe.

Weiterlesen: Kontroverse um 719 mathematische KI-Beweise von OpenAI … Sind die Navier-Stokes-Gleichungen bei der Übersetzung verschwunden?