OpenAI sagte, es habe kürzlich zwei Gruppen verboten, die seine Modelle in verdeckten Einflussoperationen, also IO, nutzten. Dabei wird KI mit traditionellen Techniken kombiniert, um gefälschte Vorfeldorganisationen und falsche Identitäten zu schaffen. Laut Odaily kontrollierte eine Russland-verbundene Operation, die als Dark Clark bezeichnet wird, einen gefälschten Think Tank namens Social Research Center, also SRC. Es wurde vermutet, dass dabei ChatGPT genutzt wurde, um interne Berichte zu verfassen, Inhalte zu erstellen und Einflussaktivitäten in Lateinamerika durchzuführen.

OpenAI sagte, die Operation sei auf der Stufe 5 des IO-Breakout-Scale bewertet worden, dem ersten Fall, den es auf dieser Stufe offengelegt habe, seit es mit der Veröffentlichung solcher Aktivitäten begonnen hat. OpenAI sagte außerdem, dass sich das grundlegende Muster dieser Einflussoperationen nicht geändert habe, dass sie jedoch in größerem Maßstab, effizienter sowie mit verbesserten Sprach- und Inhaltserstellungsfähigkeiten betrieben würden. Dadurch werde es für Angreifer leichter, gefälschte Identitäten zu erstellen, Inhalte zu fälschen und Informationen über echte Medienkanäle zu verbreiten.