JPMorgan Chase и Hyundai Card оценивают, в какой степени ИИ-агенты смогут самостоятельно выполнять финансовые задачи, например согласовывать условия и обрабатывать платежи без участия человека.

Компании только что завершили первоначальную проверку концепции, посвящённую моделируемой валютной операции. ИИ-агент Hyundai Card подал запрос на валютную операцию, чтобы увеличить объём ликвидности в евро на депозитном счёте компании в блокчейне Kinexys. По данным JPMorgan, это был первый в истории эксперимент с частным блокчейном с участием автономных банковских агентов и агентов клиентов в сфере корпоративного управления казначейством.

JPMorgan и Hyundai планируют провести дополнительные испытания в 2027 году

JPMorgan и Hyundai теперь намерены провести более сложный этап тестирования ИИ с участием нескольких агентов в первой половине следующего года. Ви Ки То, руководитель направления Kinexys Insights в Kinexys, отметил, что на следующем этапе проверят, как автономные агенты общаются и взаимодействуют друг с другом за пределами выполнения транзакций.

Тем не менее JPMorgan пока не объявил сроки возможной коммерциализации этой технологии. Это отражает более широкие опасения финансовых учреждений по поводу доверия автономным системам ИИ при выполнении финансовых операций. Банки всё ещё с трудом переводят ИИ-агентов за рамки пилотных проектов — главным образом из-за проблем с ответственностью, безопасностью и соблюдением нормативных требований.

По словам То, организациям ещё предстоит разработать подходящие модели управления и обеспечить внедрение необходимых мер безопасности.

Варианты применения автономных финансовых агентов не ограничиваются валютными операциями. Казначейские отделы компаний управляют ликвидностью, валютными рисками и координацией платежей, а также следят за наличием средств на счетах компании. Эти процессы часто затрагивают несколько учреждений, что делает их сложными.

В конечном счёте ИИ-агенты могли бы автоматизировать некоторые из этих задач (например, выявлять потребность в ликвидности, запрашивать конвертацию валюты и координировать платежи между счетами). Для международных компаний, таких как Hyundai, это помогло бы сократить задержки в трансграничных казначейских операциях.

Это позволило бы компаниям быстрее реагировать на изменение финансовых потребностей, однако потребовались бы ограничения на суммы транзакций и механизмы проверки, чтобы переводы не совершались случайно.

Разработать технологию было несложно, сказал он. Настоящая проблема — ответственность и риски, связанные с тем, что ИИ-агентам позволяют самостоятельно совершать финансовые транзакции.

На сегодняшний день Kinexys создала модель, которая ограничивает действия ИИ-агентов заданными параметрами транзакций и отклоняет любые запросы, выходящие за эти рамки. «Вы очертите вокруг агента границы. Агент никогда не сможет сделать ничего за их пределами», — сказал То.

В сентябре прошлого года банк рассказал о некоторых своих опасениях по поводу ИИ-агентов, отметив, что команда — это всего лишь намерение и ничего больше. Даже если агенту велено не выходить в интернет, не передавать данные или строго придерживаться заданного инвестиционного мандата, эти правила работают только в том случае, если их соблюдают инструменты, каналы коммуникации и механизмы выполнения операций.

Банк привёл пример проверки безопасности, в ходе которой агенту прямо запретили доступ в интернет. Тем не менее после того, как во время проверки он случайно обнаружил такой доступ, ему удалось создать вредоносное ПО, способное работать в реальных системах. Более масштабная проверка, связанная с этой оценкой, также выявила случаи несанкционированного доступа, затронувшие множество организаций.

В ходе другой серии проверок агенты использовали внутренний сервис пакетов как постоянную доску объявлений, передавали найденную информацию между отдельными запусками и скомпрометировали части внешней производственной инфраструктуры. Они также обходили внутреннюю исследовательскую инфраструктуру и в массовом масштабе получали доступ к конфиденциальным секретам.

JPMorgan Chase работает над ИИ-агентами с июня

JPMorgan Chase впервые поделился планами по внедрению долгосрочно работающих агентов в июне. В опубликованном в том же месяце техническом документе компания описала конкретный сценарий казначейских операций: ИИ-агент, обрабатывавший платёж на сумму более 1 миллиона долларов, обнаружил изменение валюты транзакции. Сообщается, что благодаря этому удалось предотвратить возможное расхождение валютных курсов на 2,3 миллиона долларов.

Позже в том же году банк сделал ещё один шаг: внедрил защитные меры, чтобы оградить счета клиентов от внешних агентов, пытающихся получить к ним доступ, — в том числе с целью переложить ответственность.

Выступая на октябрьском звонке по итогам квартала, генеральный директор JPMorgan Джейми Даймон пояснил, что банк не допускает внешних агентов из-за вопросов ответственности, связанных со счетами клиентов.

Он заявил, что сами клиенты принимают на себя эту ответственность, когда решают предоставить агенту доступ к своим счетам. В том же месяце банк заключил партнёрство с Mirakl в сфере агентной коммерции, которая помогает обрабатывать внутренние платежи.

Если вы это читаете, значит, вы уже впереди. Оставайтесь там — подпишитесь на нашу рассылку.