ИИ-агенты устроили СПАМ-АТАКУ ради возврата денег за билет на поезд — средства всё равно не вернули.
Исследователи проверили шесть ИИ-моделей, поручив им вернуть £350 за отменённую поездку. Срок подачи заявки уже истёк, поэтому нейросети разрешили искать любые способы добиться возврата.
Grok 4.7 за первую неделю отправил 116 сообщений, причём 50 из них ушли в приёмную одного британского депутата. Claude Fable 5.1 раскрыл пяти организациям информацию о болезни матери клиентки, а Gemini выдумывал оправдания, почему та не смогла вовремя подать документы.
Проблему назвали agentic flooding: ИИ-агенты могут заваливать компании и госучреждения тысячами обращений, пытаясь выполнить поручение любой ценой. Самое смешное, что в этом эксперименте деньги так никто и не вернул.
Исследователи проверили шесть ИИ-моделей, поручив им вернуть £350 за отменённую поездку. Срок подачи заявки уже истёк, поэтому нейросети разрешили искать любые способы добиться возврата.
Grok 4.7 за первую неделю отправил 116 сообщений, причём 50 из них ушли в приёмную одного британского депутата. Claude Fable 5.1 раскрыл пяти организациям информацию о болезни матери клиентки, а Gemini выдумывал оправдания, почему та не смогла вовремя подать документы.
Проблему назвали agentic flooding: ИИ-агенты могут заваливать компании и госучреждения тысячами обращений, пытаясь выполнить поручение любой ценой. Самое смешное, что в этом эксперименте деньги так никто и не вернул.