Большая часть дискуссий об ИИ в сфере финансовых услуг сосредоточена на вопросе, должен ли он рекомендовать к покупке те или иные продукты. Гораздо интереснее для меня момент, когда он действительно начинает тратить деньги от имени клиента.
Клиент спрашивает чат-бота, стоит ли ему покупать биткоин, токенизированный фонд или акции. Получив уверенный ответ, кто-то пытается последовать совету, а гораздо позже разгорается жаркая дискуссия о том, дал ли ИИ совет или просто предоставил информацию.
Гораздо интереснее момент, когда ИИ перестаёт просто отвечать на запросы пользователя и начинает помогать совершать реальные транзакции. ИИ вовсе не обязан говорить «купите это», чтобы оказать серьёзное влияние на финансы. Дайте ИИ разрешение оплачивать покупки, обменивать средства, пополнять баланс и совершать операции в заданном ценовом диапазоне — и без обсуждения уже не обойтись.
Какие действия может выполнять ИИ? С какими активами он будет взаимодействовать? Какие маршруты будет использовать? Предупреждение о том, что ваш ИИ не является финансовым консультантом, не делает небезопасную модель разрешений безопасной.
Платёжная индустрия уже строит решения с учётом этого. Например, Visa тестирует пилотные проекты агентной коммерции в рамках своих платёжных сценариев с доверенными агентами. Кратко рассмотрим, как x402 (ИИ-агент Coinbase для оплаты товаров и услуг в USDC) и Agent Pay for Machines от Mastercard (API для настройки учётных данных, разрешений и лимитов расходов при автоматизированных платежах между машинами) используют программное обеспечение непосредственно в точке исполнения для проведения платежей. Всё это звучит как программное обеспечение, работающее непосредственно в точке исполнения.
В сфере криптовалют причин беспокоиться об этом больше, чем в большинстве других отраслей. В традиционных финансах переводы денег сопряжены со множеством препятствий: от банковской инфраструктуры до разрешений, управления счетами и даже сроков расчётов.
Криптовалюты устраняют большую часть препятствий, связанных с транзакциями. Поэтому транзакцию можно подписать, а затем переслать, обменять, перевести между сетями и так далее — всё это в рамках программного обеспечения. Многие из этих действий обычно требуют участия пользователя, но вместо него их выполняет ИИ-агент.
ИИ-агент, способный перемещать криптовалюту, может причинить серьёзный вред, формально соблюдая выданное ему «разрешение», даже если он следует лишь очень общим инструкциям. Он может выбрать маршрут, который пользователь не одобрил бы, если бы знал о нём, перейти на неподходящий актив или просто повторить последовательность действий. В финансах «техническое разрешение» не означает, что «клиент понимает, что происходит». Чтобы создать работающий уровень разрешений для реальных денег, нужно правильно настроить множество детальных параметров: лимиты, временные интервалы, суммы, категории. Может ли ИИ совершить обмен? Если может, то может ли он совершать обмены между блокчейнами? Если он может платить, то может ли он сам выбрать актив для расчётов по этому платежу? Может ли он не только ребалансировать портфель и оптимизировать комиссии, но и продавать активы во время волатильности? И воздержится ли он от исполнения сделки, которая нужна пользователю прямо сейчас?
Продукты, предоставляющие доступ к криптовалютным рынкам, уже сталкиваются с похожими проблемами. Например, намерение пользователя, пришедшего в продукт, чтобы купить или продать криптовалюту, может требовать управления несколькими аспектами: необходимым уровнем ликвидности, комиссиями и различными проверками рисков. Помимо того, что пользователя может не быть рядом в момент принятия решения ИИ-системой, с передачей ей полномочий на будущие действия меняются и границы ответственности продукта. Пользователь должен иметь возможность видеть, что именно он одобрил и каковы пределы этого одобрения.
Компании будут гораздо больше заботиться о механизмах контроля за деньгами, которыми распоряжается ИИ-агент, чем розничные пользователи — о возможности настраивать счета, управлять ими и совершать сделки с помощью ИИ-агента.
Ни одна корпорация никогда не позволит перемещать значительные рабочие суммы денег демонстрационной версии ИИ, которая выглядит умной. Такому «агенту» потребуются механизмы контроля, журналы аудита, правила расходования средств, чёткие процессы расчётов и способ остановить работу, не парализуя при этом весь остальной процесс.
Для такой структуры разрешений потребуются механизмы контроля, журнал аудита, лимиты расходов, чёткие ограничения на платежи и возможность отменить операцию на ходу, не затрагивая остальной рабочий процесс. Даже если агент будет действовать самостоятельно, компании, скорее всего, захотят знать, кто за что отвечает.
Думаю, многие компании, предлагающие ИИ-«агентов» для управления платежами, довольно быстро разорятся, когда лопнет «пузырь». Если я разрешу одному приложению оплачивать счета моих поставщиков, а поставщик этого приложения уволит весь персонал и прекратит работу, захочу ли я знать, придётся ли мне оплачивать счёт или счета и, возможно, платить за них повторно самостоятельно? Нужно предусмотреть возможность перехватить управление, не дожидаясь ответа службы поддержки, которого можно так и не дождаться.
