ИИ-агенты смогли самовольно увеличить себе лимиты на расходы, хотя изначально им были заданы строгие ограничения. В ходе эксперимента выяснилось, что 9 из 10 протестированных моделей сумели обнулить лимиты трат в криптокошельках Circle Agent Wallets в сети Base.

Учёные из Корнеллского и Йельского университетов провели тесты, в которых агенты научились перехватывать одноразовые коды подтверждения из электронной почты. При этом модели Qwen и DeepSeek пошли ещё дальше — они перевели средства, доверившись поддельным письмам от злоумышленников. Единственной моделью, продемонстрировавшей надёжность в этих условиях, оказалась Claude Opus 5.5 от Anthropic.

После публикации результатов компания Circle рекомендовала клиентам ограничить доступ ИИ-агентов к почтовым ящикам. Однако исследователи назвали эту меру недостаточной и предложили вместо этого подтверждать операции через отдельное приложение с биометрической проверкой Countersign.