Чем больше я слежу за проектами ИИ в криптовалютной сфере, тем больше мне кажется, что мы задаём не тот вопрос.
Кажется, все одержимы идеей сделать ИИ-агентов более автономными. Каждое объявление обещает более умные модели, более быстрое выполнение и меньшее участие человека. Предположение простое: если ИИ станет достаточно разумным, всё остальное само встанет на свои места.
Я не уверен.
Думаю, более сложная задача заключается не в том, чтобы сделать ИИ способным делать больше. А в том, чтобы определить, что ИИ ни при каких обстоятельствах нельзя допускать.
Этот разрыв кажется незначительным, пока в картину не входит реальный капитал.
Представьте, что вы отдаёте человеку ключи от своего дома. Неважно, насколько он ответственен. Вы всё равно говорите, какие комнаты приватные, когда он может туда заходить и чем ему разрешено пользоваться. Мы не создаём границы, потому что ожидаем, что люди будут ошибаться каждый день. Мы создаём их, потому что ошибки в итоге случаются.
Я думаю, ИИ заслуживает такого же подхода.
ИИ-агент, управляющий криптокошельком, может анализировать рынки лучше, чем это могу сделать я. Он может отслеживать цены двадцать четыре часа в сутки, реагировать на возможности за секунды и исполнять стратегии без эмоций. Это реальные преимущества.
Но ничто из этого не отвечает на гораздо более простой вопрос.
Ему следует разрешить тратить каждый доллар с кошелька?
Ему должно быть позволено свободно взаимодействовать с любым протоколом?
Он должен уметь перебрасывать средства между сетями без запроса?
Интеллект не отвечает на эти вопросы.
Границы отвечают.
Одна вещь, которую я всё время замечаю: отрасль часто воспринимает свободу как прогресс. Чем больше действий ИИ может выполнять, тем более продвинутым он кажется. Но учреждения десятилетиями строили системы, которые работают почти в противоположном направлении.
Банки не дают трейдерам неограниченные полномочия. Управляющие активами работают в рамках инвестиционных мандатов. Корпоративные команды финансов имеют лимиты одобрения для сделок разных объёмов. Даже опытные сотрудники не могут просто переводить деньги компании куда угодно.
Цель не в том, чтобы тормозить людей.
Это чтобы снизить стоимость человеческой ошибки.
Когда ИИ начинает брать на себя часть этих обязанностей, я не понимаю, почему эта философия вдруг должна исчезнуть.
На самом деле, я думаю, это становится ещё более важным.
ИИ не устает, но и не останавливается, чтобы усомниться в собственной власти. Если правило говорит ему действовать — он действует. Если правило неполное, устаревшее или плохо написано, ИИ не поднимет руку и не спросит, всё ли ещё имеет смысл.
Он просто исполнит.
Вот почему, как мне кажется, люди иногда путают интеллект с рассудительностью.
Они связаны, но это не одно и то же.
Сильно способный ИИ всё равно может принять ужасное финансовое решение, если границы вокруг него заданы неверно. Проблема не всегда в модели. Иногда она — в тех разрешениях, которые мы ему выдали.
По этой причине меня заинтересовали проекты вроде Newton Protocol.
Меня заинтересовала не обещанная более умная ИИ-система. Меня заинтересовала идея о том, что авторизация должна происходить до исполнения. Вместо того чтобы предполагать, что ИИ с доступом к кошельку автоматически заслуживает доверия, протокол вводит программируемые политики, которые изначально определяют, что ИИ вообще имеет право делать.
Для меня это более здоровый способ думать об автоматизации.
ИИ всё ещё может анализировать возможности.
Он всё ещё может давать рекомендации.
Он всё равно сможет подготавливать транзакции.
Но вопрос о том, действительно ли эти действия разрешены, становится отдельным решением.
Похоже, это разделение действительно важно.
Конечно, лучшие границы — это не идеальное решение.
Политику всё равно должен кто-то написать. Кто-то должен обновлять её, когда меняются рыночные условия. Плохо спроектированные правила могут стать не менее опасными, чем отсутствие правил вообще. Система, которая блокирует каждую транзакцию, не полезна, и система, которая одобряет всё, — не защищена.
Найти баланс, вероятно, гораздо сложнее, чем построить сам ИИ.
Вот почему я не думаю, что это просто техническая задача.
Это задача по управлению (governance).
Это задача на уровне эксплуатации (операций).
И во многих отношениях это человеческая задача.
Будущее ИИ в финансах, вероятно, не будет определяться тем, у какой модели самый высокий балл по бенчмарку. Его сформируют те системы, которым люди чувствуют себя комфортно доверять при работе с реальными активами.
Доверие редко приходит из неограниченной свободы.
Оно обычно возникает из понимания того, где именно проходят ограничения.
Вот на какой вопрос я постоянно возвращаюсь.
По мере того как ИИ становится более способным, должны ли мы продолжать расширять то, что он может делать?
Или нам следует уделять примерно столько же времени тому, чтобы решать, что ему никогда нельзя делать?