OpenAI a déclaré qu’elle avait récemment banni deux groupes qui utilisaient ses modèles dans des opérations d’influence clandestines, ou IO, en combinant l’IA avec des techniques traditionnelles pour créer de fausses organisations et de fausses identités. Selon Odaily, une opération liée à la Russie, appelée Dark Clark, contrôlait un faux think tank nommé Social Research Center, ou SRC, et était soupçonnée d’utiliser ChatGPT pour rédiger des rapports internes, produire du contenu et mener des activités d’influence en Amérique latine.

OpenAI a déclaré que l’opération avait été évaluée au niveau 5 de l’échelle IO Breakout, le premier cas qu’elle a divulgué à ce niveau depuis qu’elle a commencé à publier ce type d’activité. OpenAI a également déclaré que l’IA n’a pas modifié le modèle de base de ces opérations d’influence, mais a accru leur ampleur, leur efficacité, leurs capacités linguistiques et leur production de contenu, ce qui rend plus facile pour les attaquants de créer de fausses identités, de falsifier du contenu et de diffuser des informations via des canaux médiatiques réels.