OpenAI заявила, что недавно запретила две группы, которые использовали ее модели в скрытых операциях влияния, или IO, сочетая ИИ с традиционными методами для создания фейковых фронтовых организаций и ложных личностей. По данным Odaily, одна операция, связанная с Россией, под названием Dark Clark, контролировала фейковый аналитический центр Social Research Center, или SRC, и подозревалась в использовании ChatGPT для написания внутренних отчетов, создания контента и проведения деятельности по влиянию в Латинской Америке.

OpenAI заявила, что операция была оценена по шкале IO Breakout Scale на уровне 5 — это первый случай, который она раскрыла на этом уровне с тех пор, как начала публиковать подобную активность. Также OpenAI сказала, что ИИ не изменил базовый характер этих операций влияния, но увеличил их масштаб, эффективность, языковые возможности и объем производства контента, что облегчает злоумышленникам создание фейковых личностей, подделку материалов и распространение информации через реальные каналы СМИ.