По данным Axios, несколько крупных банков США обнаружили в аккаунтах клиентов нескольких непроверенных ИИ-агентов сторонних разработчиков. Некоторые из них выполняли действия, которые, по-видимому, не соответствовали запросам пользователей. Это важно для тех, кто подключает банковские счета к ИИ-помощникам: теперь банки блокируют такой доступ, чтобы защитить деньги клиентов.

Агенты входят в банки США, используя настоящие учётные данные клиентов

По данным Axios, основная проблема заключается в том, что ИИ-агенты получают доступ к банкам США, используя данные для входа, которые сами клиенты им предоставили. В большинстве этих банков такие действия запрещены: владельцы счетов должны входить в систему самостоятельно.

Даже когда пользователь дает агентам разрешение, руководители опасаются, на что именно способны эти агенты. Если клиент уполномочит агента совершать покупки или переводить деньги, ошибка или самовольная команда могут привести к списанию средств или их переводу не туда.

Банки также сообщали о звонках ИИ-агентов в службы поддержки клиентов. В некоторых случаях казалось, что они действовали по собственной инициативе, без прямого запроса пользователей. Один представитель банковской отрасли заявил, что она серьезно обеспокоена тем, что ИИ-агенты получают доступ к счетам и принимают решения, способные повлиять на деньги клиентов.

Morgan Stanley начинает блокировать агентов, другие следуют его примеру

Morgan Stanley теперь блокирует сторонних агентов на своих платформах, сообщили источники Axios. JPMorgan, Bank of America и Citi также ужесточили доступ агентов. Wells Fargo — еще один банк, который пытается сдержать эту новую угрозу.

Банки отреагировали по-разному. Chase предупредил клиентов, что ни в коем случае нельзя сообщать кому-либо свои данные для входа в систему. Morgan Stanley заявил, что ему не известно о случаях, когда ИИ-агенты получали доступ к его системам без разрешения.

Банки меняют правила и ограничивают доступ внешних инструментов, автоматизирующих задачи, пытаясь определить, выполняет ли ИИ-агент запрос пользователя или действует самостоятельно.

Доступ только для чтения — компромиссный вариант

Большинство этих американских банков склоняются к предоставлению исключительно доступа для чтения. Это позволяет ИИ-агентам просматривать остатки на счетах и историю транзакций, но не дает возможности вносить изменения или переводить деньги. Такой подход похож на то, как банки взаимодействуют с приложениями для планирования бюджета, например Quicken.

Руководители банков сообщили Axios, что ожидают роста числа клиентов, пользующихся ИИ-помощниками, поэтому банки не планируют блокировать их навсегда. Пока что они считают, что предоставлять этим инструментам полный доступ слишком рискованно.

Одна из проблем заключается в том, что банки часто не могут определить, имеют ли они дело с человеком или ботом. Им также сложно понять, дал ли владелец счета разрешение ИИ-агенту или тот получает доступ к счету без разрешения.

Почему речь скорее о пробеле в правилах, а не о взломе

Вопрос касается прежде всего того, как американские банки управляют рисками и соблюдают правила, а не влияния ситуации на прибыль. Утечка данных может привести к прямым финансовым потерям и судебным искам. Но когда легитимный инструмент на основе ИИ неправомерно использует данные для входа, проблема сводится скорее к пробелам в банковских правилах.

Прошлые тревожные инциденты, связанные с безопасностью банков, часто развивались по похожему сценарию. Сначала появлялось сообщение в новостях, после чего банки объясняли, какие меры безопасности они принимают. Затем регулирующие органы выясняли, охватывают ли действующие правила способы доступа ИИ-агентов к счетам и проверки их личности.

Источники сообщили Axios, что американские банки инвестируют в меры безопасности и планы на случай чрезвычайных ситуаций, которые помогут быстро заблокировать или восстановить доступ клиентов, если инцидент с участием ИИ-агента усугубится.

Не просто читайте новости о криптовалютах — разберитесь в них. Подпишитесь на нашу рассылку. Это бесплатно.