Честно говоря, я не ожидала, что протокол Newton удержит мое внимание надолго. Сочетание ИИ и криптовалют стало настолько привычным, что я инстинктивно подхожу к новым проектам с определенной долей скепсиса. Каждый протокол, похоже, обещает будущее, в котором интеллектуальные агенты управляют портфелями, выполняют сделки, оптимизируют стратегии и устраняют неэффективность человеческих решений. После того как эту же историю повторяют достаточно раз, становится сложно отделить подлинные архитектурные идеи от тщательно отшлифованного сторителлинга.
Что заставило меня остаться с Newton — это было не обещание более умного ИИ. Это было осознание того, что проект задает более тихий вопрос — тот, который кажется намного важнее, чем создание еще одной умной модели. Он спрашивает: что происходит после того, как ИИ становится достаточно способным, чтобы двигать реальные деньги, взаимодействовать с финансовой инфраструктурой и принимать тысячи решений без вмешательства человека. На этом этапе интеллект уже не является самой сложной проблемой. Самой сложной становится доверенность.
Этот сдвиг перспективы заставил меня пересмотреть, где, возможно, находится реальное «узкое горлышко».
Годы криптоиндустрия была сосредоточена на устранении посредников. Смарт-контракты заменяли институты во многих ситуациях, потому что код мог закреплять правила более последовательно, чем люди. При этом ИИ развивался почти в противоположном направлении. Вместо того чтобы исполнять заранее заданные правила, современные системы ИИ интерпретируют информацию, адаптируются к меняющимся обстоятельствам и принимают вероятностные решения. Эти качества ровно и делают ИИ полезным, но они же усложняют доверие к нему при необратимых финансовых действиях.
Большинство обсуждений заканчиваются тем, насколько умной может стать модель ИИ. Newton, кажется, больше интересует вопрос о том, сколько именно полномочий должна фактически получать эта интеллигентность. Разница звучит небольшой, пока не подумаешь, что автономное ПО в будущем потенциально может контролировать. Торговая стратегия, связанная с несколькими протоколами, больше не просто программное обеспечение. Она становится экономическим участником, способным порождать последствия, которые нельзя просто так отменить.
Неприятная реальность в том, что интеллект и суждение — это не одно и то же. Модель ИИ может с поразительной точностью находить прибыльные возможности, но при этом принимать решения, которые игнорируют контекст, допустимый риск или намерения человека, который ее развернул. Дать алгоритму неограниченный доступ к цифровым активам только потому, что он хорошо показал себя в тестах, странным образом похоже на то, чтобы доверить незнакомцу ключи от вашего дома — потому что он решил сложную математическую задачу. Одной компетентности никогда не было достаточно, чтобы оправдать полную власть.
Именно здесь Newton становится для меня более интересным, чем я изначально ожидал. Вместо того чтобы рассматривать ИИ как нечто, что в будущем должно заменить человеческий надзор, протокол, похоже, строится вокруг предположения, что надзор должен оставаться частью самой системы. Secure rollup — это не просто еще один технический слой, созданный для повышения эффективности. Это скорее рамочный механизм, в котором ИИ работает в заранее заданных границах, а не получает неограниченные разрешения. Во многих отношениях архитектура отражает старый человеческий урок: свобода без ответственности редко заканчивается хорошо — независимо от того, участником является человек или машина.
Мне кажется, эта философия неожиданно освежает, потому что она принимает то, что индустрия технологий часто старается игнорировать. Любая мощная система со временем становится проблемой управления. В тот момент, когда программное обеспечение начинает принимать осмысленные решения, кто-то должен определить, что ему разрешено делать, кто несет ответственность в случае провала, и как эти обязанности распределены между сетью участников. Эти вопросы невозможно решить более крупными языковыми моделями или более быстрыми блокчейнами. Они относятся к архитектуре вокруг интеллекта, а не к самому интеллекту.
Рынок разработчиков ИИ тоже становится более интересным, если смотреть на него через эту призму. На первый взгляд он выглядит как еще одно место, где создатели могут публиковать стратегии и инструменты. Но под этим скрывается более широкая попытка координировать ценность в мире, где измерять вклад становится все сложнее. Современный ИИ зависит от исследователей, провайдеров инфраструктуры, вкладчиков данных, разработчиков, валидаторов и бесчисленных невидимых участников, чья работа часто исчезает внутри более крупных систем. Интернет стал удивительно эффективным в создании ценности и при этом удивительно слабым в распознавании того, откуда именно эта ценность произошла.
Крипто давно утверждает, что прозрачная собственность может изменить стимулы. Newton, похоже, расширяет этот разговор за пределы цифровых активов — и к самой цифровой интеллигентности. Вопрос больше не только в том, кто владеет токеном или кошельком. Вопрос в том, кто заслуживает признания, когда автономные системы порождают экономические результаты через слои взаимосвязанных вкладов. Это может звучать абстрактно сегодня, но ощущается как вопрос, который станет гораздо труднее игнорировать по мере того, как ИИ будет вплетаться в финансовую инфраструктуру.
Конечно, изящные идеи редко переживают столкновение с реальностью неизменными. Системы разрешений создают трение. Верификация требует ресурсов. Управление вызывает разногласия. Экономические стимулы порождают модели поведения, которых ни один whitepaper полностью не предвидит. Протокол может быть технически корректным, но при этом все равно испытывать трудности — просто потому, что участники реагируют на стимулы неожиданными способами. Децентрализованные системы не устраняют политику; они лишь делают политические решения видимыми, а не прячут их за корпоративными структурами.
Думаю, одна из причин, почему Newton кажется мне интеллектуально честным, — в этом. Он не выглядит так, будто предполагает, что децентрализация магическим образом убирает сложность. Если что-то и признается, то что сложность нужно проектировать внимательно, а не обходить. Любое правило, которое защищает пользователей, также ограничивает гибкость. Любая предосторожность замедляет что-то. Любая попытка распределить власть создает новые проблемы координации где-то еще в сети. Эти компромиссы — не признаки провала. Это неизбежная цена построения систем, которым людям ожидается доверять.
По мере того как я проводил больше времени, обдумывая протокол, я понял, что мой интерес почти не связан ни с моделями ИИ, ни с пропускной способностью блокчейна. То, что удержалось во мне, — более широкая философская идея. Довольно долго технологии были одержимы тем, как сделать машины более способными. Возможно, следующий этап — не в увеличении возможностей, а в определении ответственности. Интеллект без границ в конечном счете трудно отличить от риска. Инфраструктура, которая тихо ограничивает власть, может оказаться более ценной, чем инфраструктура, которая бесконечно расширяет ее.
У меня все еще есть вопросы о Newton Protocol. Я думаю, примут ли разработчики более строгие среды выполнения, если это уменьшит гибкость. Я думаю, будут ли пользователи мириться с дополнительными слоями безопасности, когда удобство стало определяющим ожиданием современного ПО. Я думаю, сможет ли управление оставаться практичным по мере того, как экосистемы будут расти, а стимулы — усложняться. Эти неопределенности важны, потому что напоминают: продуманная архитектура — никогда не то же самое, что гарантированное внедрение.
В конце концов, больше всего во мне вызывает уважение в Newton Protocol то, что он ценен не обещанием решить будущее ИИ. Он смещает фокус на проблему, которая ощущается как странно игнорируемая. По мере того как автономные системы становятся все более распространенными, общество, вероятно, будет тратить меньше времени на вопросы о том, может ли ИИ принимать решения, и гораздо больше — на то, при каких условиях ему вообще следует разрешать это делать. В итоге именно собственность, ответственность и координация могут сформировать следующее поколение цифровой инфраструктуры сильнее, чем чистый вычислительный интеллект когда-либо мог бы. Newton интересен не тем, что дает уверенность. Он интересен тем, что тихо признает: доверие — это то, что системы должны заслужить дизайном, а не то, что они получают автоматически просто потому, что они умны.
