Честно говоря, протокол Newton меня не особо вдохновлял и уж точно не был тем проектом, о котором я ожидал тратить много времени на размышления. С первого взгляда он выглядел как очередная попытка совместить искусственный интеллект с блокчейном, и если уж говорить правду, такая комбинация стала настолько привычной, что я инстинктивно отношусь к этому со скепсисом. Каждые несколько недель появляется еще один протокол, обещающий автономных агентов, более умную торговлю, децентрализованный интеллект или маркетплейс, где ИИ каким-то образом меняет финансы. Выслушав одну и ту же историю достаточно часто, перестаешь спрашивать, интересна ли технология, и начинаешь спрашивать, кто вообще решает проблему, которую нельзя было бы уже решить с помощью более простых инструментов.
Такой была моя позиция, пока я не перестал рассматривать Протокол Ньютон как проект ИИ и не начал видеть в нём попытку ответить на гораздо более старый вопрос. Не о том, как машины становятся умнее, а о том, как всё более интеллектуальные системы вписываются в среды, где доверие всегда было ограничено.
Легко предположить, что интеллект естественным образом заслуживает власть. Люди постоянно допускают эту ошибку. Мы так сильно ценим компетентность, что часто забываем: компетентность и подотчётность — это совершенно разные вещи. ИИ начинает вскрывать это недопонимание в гораздо более широком масштабе. Модели улучшаются с поразительной скоростью. Они могут анализировать рынки, распознавать паттерны, генерировать стратегии, писать программное обеспечение и принимать решения быстрее, чем когда-либо мог бы любой отдельный человек. Но ни одна из этих способностей автоматически не делает их заслуживающими доверия. Более того, более высокая способность часто увеличивает стоимость ошибки, а не снижает её.
Вот та часть, которую, как мне кажется, многие разговоры тихо игнорируют. Мы тратим огромное количество энергии, обсуждая то, на что ИИ будет способен, при этом удивительно мало времени уделяем тому, что ему ни в коем случае нельзя делать.
Чем больше я читал о Протоколе Ньютон, тем больше чувствовал, что это тот вопрос, который лежит в основе всего остального.
Вместо того чтобы представлять ИИ как нечто, чему просто нужно дать доступ к кошелькам, активам и финансовой инфраструктуре, протокол, похоже, построен с противоположным предположением. Интеллект должен действовать внутри границ, а не заменять их. Цель не в том, чтобы убрать человеческое суждение, а в том, чтобы перевести его в правила, которые остаются исполнимыми даже тогда, когда люди больше не наблюдают за каждой отдельной транзакцией.
Мне эта идея кажется интереснее, чем сам ИИ.
Годы спустя блокчейн в основном был про то, чтобы сократить необходимость доверять людям. Смарт-контракты заменяли посредников, потому что код мог обеспечивать выполнение соглашений более последовательно, чем это часто удавалось институтам. Ньютон, похоже, продолжает ту же философию в отношении искусственного интеллекта. Вместо того чтобы доверять ИИ, потому что он выглядит способным, он задаёт вопрос: должна ли вообще способность сама по себе быть достаточной.
Это ощущается как удивительно зрелое место, с которого можно начать.
Безопасный роллап в центре протокола лучше понимается через эту призму. Сначала я задавался вопросом, зачем ИИ нужна специализированная инфраструктура, если можно просто работать поверх существующих блокчейнов. Ответ, насколько я его понимаю, не в том, что существующие сети неспособны. Дело в том, что автономные системы вводят совершенно иную категорию риска.
Традиционное ПО следует инструкциям. ИИ их интерпретирует.
Этот нюанс кажется небольшим — пока в дело не вмешиваются деньги.
Интерпретация вносит неопределённость. Неопределённость порождает ответственность. В конечном счёте ответственность требует управления.
Разделяя интеллект, который генерирует решения, и инфраструктуру, которая их авторизует, Ньютон, похоже, признаёт: исполнение и рассуждения не обязательно должны принадлежать одной и той же системе. ИИ может выявлять возможности, оптимизировать стратегии или рекомендовать действия, но окружающая архитектура определяет, разрешены ли эти действия на самом деле.
Чем больше я думал об этом разделении, тем больше оно напоминало мне конституционные системы, а не инженерии программного обеспечения. Демократии не работают потому, что лидеров считают безупречно мудрыми. Они работают потому, что власть заключена в правила, которые остаются действительными даже тогда, когда мудрость подводит.
Возможно, ИИ нужно что-то подобное.
Ещё одна вещь, которая всё время притягивала моё внимание, — идея создать экосистему, где разработчики могут строить и обмениваться стратегиями ИИ в экономической среде, признающей вклад. Звучит просто, пока вы не учтёте, насколько трудно становится определить вклад, когда сама по себе интеллигентность начинает становиться совместной.
Модель ИИ редко существует в изоляции. Она зависит от исследователей, провайдеров инфраструктуры, датасетов, валидаторов, разработчиков, пользователей и бесчисленных невидимых вкладчиков, чья работа пересекается способами, которые сложно раздельно отличить. Традиционная собственность начинает размываться, потому что результаты больше не принадлежат полностью одному создателю.
Это не просто техническая проблема.
Это экономический вопрос.
Люди создают там, где есть стимулы. Они делятся знаниями, когда кажется возможным получить признание. Они вкладывают время, когда ценность не исчезает на платформах, которыми управляет кто-то другой. В этом смысле атрибуция — это не просто вопрос справедливости. Это вопрос о том, остаётся ли децентрализованная инновация устойчивой по мере того, как ИИ всё больше становится взаимосвязанным.
Похоже, Ньютон признаёт эту реальность, хотя признание проблемы — это очень далеко от её решения.
На самом деле одна из причин, почему я стал относиться к протоколу более серьёзно, заключалась в том, что я продолжал замечать, сколько нерешённых вопросов всё ещё существует.
Например, управление (governance) кажется куда сложнее, чем часто признают в белых книгах. Любой децентрализованный протокол рано или поздно приходит к моментам, когда технические решения становятся политическими. Участники расходятся во взглядах на стимулы, эволюционируют предположения о безопасности, влиятельные заинтересованные стороны накапливают рычаги влияния, а механизмы управления, которые когда-то казались изящными, сталкиваются с грязной непредсказуемостью человеческой координации.
Внедрение ИИ в такую среду не уменьшает сложность.
Скорее всего, она его умножает.
Темп развития машинного обучения уже превышает темп, с которым большинство систем управления могут комфортно адаптироваться. Правила, которые сегодня кажутся разумными, могут неожиданно быстро устареть. Структуры разрешений могут требовать постоянной корректировки. Экономические стимулы, поначалу выглядящие сбалансированными, со временем могут медленно смещаться в сторону концентрации по мере взросления экосистем.
Я не думаю, что Протокол Ньютон избегает этих реалий.
В любом случае, он охватывает это, пытаясь строить инфраструктуру, способную развиваться, а не притворяться, что уже существуют безраздельно постоянные решения.
В этом есть что-то освежающее.
Крипто иногда ведёт себя так, будто каждый протокол пытается раз и навсегда решить величайшие проблемы истории. Реальность редко работает так. Инфраструктура обычно несовершенна. Институты развиваются через итерации, а не через безупречный дизайн. Системы выживают потому, что адаптируются, а не потому, что начинают без слабых мест.
Возможно, именно эту перспективу я оценил больше всего.
Протокол Ньютон не заставил меня поверить, что децентрализованный ИИ наконец-то решён.
Это заставило меня задуматься тщательнее о том, в чём может заключаться реальная сложность.
Возможно, будущее не будет зависеть целиком от создания более умных моделей. Возможно, оно будет зависеть от проектирования сред, в которых интеллект — как бы мощным он ни становился — остаётся подотчётным правилам, которые люди коллективно понимают и принимают.
Похоже на гораздо более трудную задачу, чем просто сделать алгоритмы умнее.
И, возможно, ещё более важную.
Я всё ещё не знаю, станет ли в итоге Протокол Ньютон той архитектурой, на которую надеются многие. Рынки непредсказуемы, управление хрупкое, а технологические допущения имеют привычку устаревать быстрее, чем кто-либо ожидает. Эти неопределённости не исчезают просто потому, что исходная философия продуманная.
Но я действительно думаю, что такие проекты тихо смещают разговор в более здоровом направлении. Они напоминают нам, что одной лишь интеллигентности никогда не хватало, чтобы строить долговечные системы. Каждая цивилизация в итоге обнаруживает: способность без ответственности порождает нестабильность, независимо от того, насколько впечатляющей кажется способность вначале.
Поскольку ИИ постепенно становится частью нашей экономической инфраструктуры, а не просто ещё одним инструментом ПО, вопросы собственности, разрешений, координации, атрибуции и доверия, вероятно, будут иметь значение так же сильно, как и успехи самих моделей. Протокол Ньютон не даёт окончательных ответов на эти вопросы, и, возможно, не сможет ни один протокол. Он предлагает другое место, чтобы начать задавать их — и иногда качество вопросов важнее уверенности в ответах.
