Годы подряд я замечаю, что каждый крупный разговор об ИИ следует одному и тому же шаблону.
Сначала люди спрашивают, насколько умными становятся модели.
Затем спрашивают, как быстро они смогут выполнять задачи.
Со временем разговор смещается к тому, заменит ли ИИ людей в некоторых профессиях.
Это интересные вопросы.
Но в последнее время я всё чаще ловлю себя на мысли о другом.
Что происходит, когда ИИ не просто рекомендует действие — а на самом деле выполняет его, используя реальные деньги?
Похоже, именно в этот момент всё меняется.
Когда ИИ резюмирует статью, последствия ошибки обычно небольшие.
Когда ИИ перемещает активы, ребалансирует казначейство, одобряет платеж или взаимодействует с умным контрактом, ошибки становятся финансовыми событиями.
В этот момент интеллект уже не единственное, что имеет значение.
Ответственность становится частью архитектуры.
Мы измеряем производительность лучше, чем подотчетность
Крипто всегда вознаграждала автоматизацию.
Мы ценим протоколы, которые убирают трение.
Мы восхищаемся приложениями, которые уменьшают вовлеченность человека.
Мы оптимизируемся по скорости, потому что рынки вознаграждают скорость.
ИИ естественным образом ускоряет этот тренд.
Автономная система может мониторить рынки двадцать четыре часа в сутки.
Он никогда не спит.
Он реагирует за миллисекунды.
Он может обрабатывать больше информации, чем любой отдельный трейдер.
Эти преимущества реальны.
Но ни одно из них не отвечает на один вопрос.
Кто отвечает, когда ИИ принимает неверное решение?
Не потому что его взломали.
Не потому что он игнорировал инструкции.
Просто потому, что реальность изменилась быстрее, чем предположения за стратегией.
Это ощущается гораздо ближе к тому вызову, с которым нам действительно придется столкнуться.
Интеллект не устраняет риск
Люди часто говорят так, словно лучшие модели автоматически создают более безопасные системы.
Я не думаю, что это правда.
Представьте двух ИИ-агентов.
Первая обладает средней предсказательной способностью, но работает в рамках строгих, исполнимых ограничений.
Вторая значительно умнее, но имеет широкие полномочия действовать так, как, по ее мнению, будет лучше всего.
Какой из них создает меньше долгосрочного риска?
Я не уверен, что более умный агент обязательно безопаснее.
Финансовая история полна примеров, когда умные люди принимали дорогие решения.
Рынки наказывают самоуверенность так же быстро, как и невежество.
ИИ не изменит этого.
Разница между советом и авторитетом
Одна идея снова и снова возвращается ко мне.
Существует огромная разница между ПО, которое дает советы, и ПО, которое обладает авторитетом.
Рекомендательные системы уже влияют на миллионы людей.
Исполнительные системы напрямую влияют на рынки.
Этот переход полностью меняет требования к дизайну.
Как только ИИ получает авторитет, каждое разрешение становится важным.
Каждое одобрение имеет значение.
Каждое исключение имеет значение.
Инфраструктура, которая когда-то казалась необязательной, внезапно становится критически важной.
Почему протокол Newton выделяется
Именно здесь протокол Newton стал интересен мне.
Большинство разговоров об ИИ сосредоточены на улучшении интеллекта автономных систем.
Newton, похоже, фокусируется на другом.
Он спрашивает, должно ли каждое автоматизированное действие сначала соответствовать заранее заданным политикам, прежде чем выполняться.
Вместо того чтобы предполагать, что ИИ заслуживает доверия, потому что он умный, архитектура пытается сделать доверие таким, которое можно проверять.
Это едва уловимая разница.
Но, по-моему, это важный вопрос.
Потому что интеллект меняется со временем.
Правила можно проверять.
Разрешения можно аудировать.
Доказательства можно верифицировать.
Доверие требует доказательств
Одна вещь, чему крипто снова и снова нас учила, заключается в том, что обещания в итоге превращаются в инфраструктуру.
Раньше люди доверяли централизованным биржам, потому что те говорили, что активы клиентов в безопасности.
В конце концов индустрия потребовала доказательств.
Доказательства резервов стали ценнее, чем простые заверения.
Интересно, следует ли ИИ по тому же пути.
Сегодня мы спрашиваем разработчиков, ведут ли их автономные агенты себя ответственно.
Завтра мы можем ожидать системы, которые смогут на самом деле доказать, что они оставались внутри утвержденных границ.
Это очень разные стандарты.
Скрытый слой, о котором никто не говорит
Еще одна мысль все больше приходит мне в голову.
Все сосредотачиваются на том, что ИИ может.
Почти никто не говорит о том, чего ИИ никогда не должно быть позволено делать.
Эта невидимая граница может стать одной из самых ценных частей будущей инфраструктуры.
Потому что границы снижают неопределенность.
Они делают поведение предсказуемым.
Они делают управление возможным.
Без них любое улучшение возможностей ИИ также увеличивает последствия сбоев.
Инфраструктура обычно скучна — пока не окажется не такой
Самые сильные технологии редко становятся знаменитыми, потому что они не кажутся захватывающими.
Они становятся знаменитыми, потому что люди перестают их замечать.
Электричество не впечатляет из-за того, что загораются лампы.
Это впечатляет, потому что мы ожидаем, что она будет именно такой.
Финансовая инфраструктура работает так же.
Никто не празднует системы расчетов в обычные дни.
Люди замечают их, когда они терпят неудачу.
ИИ-инфраструктура может следовать точно такому же паттерну.
Если все работает правильно, пользователи не будут думать о слоях авторизации, движках политики или правилах исполнения.
Они просто решат, что автономные финансы работают.
Это предположение становится возможным лишь потому, что невидимая инфраструктура выполняет свою работу.
Следующий сетевой эффект
Я также начал задумываться, не будет ли следующий крупный сетевой эффект в крипто идти от машин, а не от людей.
Сегодня метрики крутятся вокруг пользователей.
Кошельки.
Транзакции.
TVL.
Сообщества.
Завтрашние экосистемы могут все чаще измерять нечто другое.
Как часто автономные системы успешно взаимодействуют?
Сколько ИИ-сервисов повторно используют друг друга?
Сколько приложений полагаются на общую инфраструктуру, вместо того чтобы перестраивать все независимо?
Эти связи накапливаются тихо.
Разработчики редко замечают это сразу.
Пользователи почти никогда их не видят.
И все же они могут стать основой совершенно новых цифровых экономик.
Создаем уверенность вместо ажиотажа
Одна из причин, почему я снова и снова возвращаюсь к протоколу Newton, не в том, что я думаю, будто каждая часть видения уже полностью готова.
Это не так.
Как и во многих ранних проектах инфраструктуры, многим компонентам еще нужно более широкое внедрение, дальнейшая разработка и проверка в реальных условиях.
Меня интересует направление.
Проект, похоже, меньше заботится о том, чтобы ИИ выглядел магическим, и больше — о том, чтобы автоматизированные системы были подотчетны.
Это ощущается удивительно практично.
Потому что финансовые системы не становятся заслуживающими доверия только благодаря одному интеллекту.
Их начинают считать заслуживающими доверия благодаря прозрачности, предсказуемому поведению и правилам, которые применяются последовательно.
Взгляд вперед
ИИ почти наверняка станет более способным.
Эта часть кажется неизбежной.
Более сложный вопрос — развивается ли наша инфраструктура так же быстро.
Если автономные системы со временем будут управлять портфелями, выполнять операции казначейства, координировать ликвидность или напрямую взаимодействовать с токенизированными активами, главнейшее конкурентное преимущество может оказаться не у самой умной модели.
Возможно, это и должно относиться к экосистеме, которая обеспечивает самые четкие границы, наиболее сильную верификацию и самый высокий уровень уверенности для всех, кто на нее полагается.
Возможно, это и есть то будущее автономных финансов, которое действительно нужно.
Не тот ИИ, который умеет все.
Но ИИ, который каждый может уверенно понимать, аудировать и которому доверять — потому что правила, управляющие им, так же важны, как и интеллект, который его обеспечивает.