Операция по оказанию влияния с помощью ИИ почти в 100 случаях опубликовала или перепечатала материалы под семью вымышленными журналистскими идентичностями — об этом говорится в отчёте OpenAI от 8 октября.

Операторы использовали ChatGPT, чтобы редактировать англоязычные черновики с учётом правил подачи конкретных изданий, а затем писать письма-предложения (pitch) редакторам. OpenAI утверждает, что проследило подписи под материалами примерно в дюжине изданий, освещающих международные темы. Затем некоторые издания продвигали статьи через свои собственные аккаунты в соцсетях.

Это дало операции то, с чем отдельному боту пришлось бы бороться: распространение через уже существующее издание. Материалы выходили под журналистскими именами в действующих новостных СМИ, предоставляя им канал к аудитории этих изданий. Сгенерированной и поддельной была именно идентичность, которая это обеспечивала.

Та же операция также генерировала ответы в соцсетях. OpenAI обнаружила, что вовлечённость в тех ответах, которые она смогла идентифицировать, была невысокой, и отмечает, что часть похвалы под публикациями, продвигавшими «посаженные» статьи, исходила от самой операции. Статья и её одобрительные комментарии, таким образом, могли появляться из одного источника, выглядя при этом как отдельные сигналы достоверности.

Это была геополитическая кампания, а не задокументированное криптопромо. Отчёт не устанавливает, сколько читателей в это поверили. Но он задаёт всем, кто следит за новостями через ленту, конкретную проблему, которую нужно уметь распознавать: публикация и кажущееся одобрение аудитории могут быть обеспечены людьми, стоящими за историей. Проверка того, есть ли у лежащего в основе утверждения независимый источник, важнее, чем подсчёт того, где оно появляется.

Источник: https://openai.com/index/disrupting-ai-enabled-false-front-operations/
Изображение: иллюстрация, созданная ИИ, а не реальная редакция.