Я не ожидал, что протокол Newton останется в моих мыслях.
На самом деле, я был готов двигаться дальше уже через несколько минут.
Возможно, это побочный эффект от слишком долгого времени, проведённого в крипто-среде. Спустя некоторое время каждый новый протокол начинает приходить, завернутый в один и тот же словарь. Децентрализованный это. С ИИ-то там. Автономно всё. Обещания становятся настолько знакомыми, что подлинное любопытство медленно превращается в тихую усталость.
Итак, когда я впервые наткнулся на протокол Newton, я предположил, что уже знаю историю, даже не прочитав её.
Я ошибался.
Не потому, что Ньютон представил какое-то невероятное технологическое прорывное решение, а потому что он подтолкнул меня к вопросу, о котором я недостаточно тщательно думал.
Годы спустя я верил, что крупнейший вклад блокчейна — это устранение необходимости доверять централизованным институтам. Банки, биржи, кастодианы — крипто бросило им вызов, заменив организационное доверие математическими гарантиями. Вопрос, было ли это видение полностью реализовано, — уже другая беседа, но, по крайней мере, направление было ясным.
Искусственный интеллект усложняет эту картину так, как я не до конца оценивал.
Чем более способным становится ИИ, тем меньше он ведет себя как ПО, ожидающее инструкций, и тем больше похож на независимого участника в цифровых системах. Он анализирует информацию, взвешивает вероятности, выбирает между альтернативами и все чаще действует, не спрашивая разрешения каждые несколько секунд.
Это меняет саму природу доверия.
Проблема больше не только в том, доверяю ли я платформе, на которой хранятся мои активы. Проблема становится в том, доверяю ли я интеллекту, который принимает решения об этих активах, пока я сплю.
Это прозрение заставило Протокол Newton ощущаться менее как еще один блокчейн-проект и больше как попытка ответить на неудобный вопрос, у которого нет очевидного решения.
Можно ли сделать интеллект экономически ответственным, не становясь при этом полностью прозрачным?
Я снова и снова возвращаюсь к этой фразе, потому что думаю: она лежит в основе почти всего, что Ньютон пытается построить.
Люди часто говорят об ИИ так, будто главная сложность — сделать модели умнее. Лично я больше не думаю, что интеллект — самая трудная часть. Самая трудная — построить системы, где все более интеллектуальное ПО может взаимодействовать с людьми, деньгами и институтами, не требуя слепой веры в того, кто написал код.
Это совершенно другая проблема инфраструктуры.
Чем больше я изучал Ньютона, тем больше замечал: он, похоже, не одержим тем, чтобы напрямую размещать ИИ в ончейне. Вместо этого он как будто принимает практическую реальность, которую многие дискуссии удобно игнорируют.
Современный ИИ дорого стоит с вычислительной точки зрения. Большие модели изначально не были спроектированы для того, чтобы жить целиком внутри блокчейн-среды, и притворство в этом обычно создает системы, которые удовлетворяют идеологию больше, чем инженерные потребности.
Ньютон не выглядит заинтересованным в том, чтобы принудительно свести эти миры вместе.
Вместо этого он разделяет их.
Интеллект может существовать там, где он работает лучше всего, а блокчейн становится местом, где обязательства, разрешения, расчеты и ответственность закрепляются.
Это оказалось неожиданно освежающим.
Есть тихая скромность в том, чтобы признать: децентрализация не требует, чтобы каждая вычислительная операция происходила внутри консенсуса. Иногда самая децентрализованная архитектура — это просто та, которая знает, где децентрализация действительно необходима.
Чем дольше я об этом думал, тем больше понимал: это вообще не разговор об ИИ.
Это разговор об ответственности.
Мы склонны восхвалять автоматизацию, потому что она убирает человеческий труд, но автоматизация также убирает видимых лиц, принимающих решения. Когда человек плохо управляет капиталом, мы знаем, кто совершил ошибку. Когда то же самое делает интеллектуальная система после обработки миллионов переменных, гораздо труднее определить ответственность.
Кто несет ответственность?
Разработчик?
Модель?
Инфраструктура?
Валидаторы?
Пользователь, который выбрал доверять системе?
Ни один из этих ответов не кажется завершенным.
Ньютон не устраняет эту неопределенность, но, похоже, он построен на вере в то, что ответственность можно встроить в экономическую инфраструктуру, вместо того чтобы полагаться целиком на организационное доверие.
Проверить, верно ли это убеждение, сегодня невозможно.
Но я все же считаю, что задавать этот вопрос важно.
Одна деталь, тихо задержавшаяся во мне, — идея создать рынок для разработчиков ИИ. Сначала это звучало как еще одна платформа, где люди загружают модели и получают компенсацию, но после того как я немного обдумал это, я понял: более интересная проблема не в дистрибуции.
Это атрибуция.
Мы входим в мир, где сама по себе интеллектуальность становится экономическим активом.
Если ИИ-стратегия непрерывно создает ценность на протяжении месяцев или лет, кто на самом деле создал эту ценность?
Это был инженер, который обучал модель?
Исследователи, чья работа стала частью архитектуры?
Люди, чьи данные улучшили производительность?
Валидаторы, обеспечивающие выполнение?
Или, возможно, бесчисленные пользователи, взаимодействующие с системой каждый день, формируя результаты способами, которые трудно измерить?
Эти вопросы не укладываются аккуратно в традиционные идеи собственности.
Знания всегда было трудно контролировать.
Интеллект может оказаться еще сложнее.
Вот почему атрибуция ощущается не как бухгалтерское упражнение, а как одна из ключевых инфраструктурных задач следующего десятилетия.
Пока я продолжал читать про Ньютона, я все меньше думал о блокчейне и все больше — об институтах.
Любое общество в конечном итоге создает механизмы для назначения доверия. Иногда это механизмы — правительства. Иногда — суды. Иногда — рынки.
Блокчейн предложил еще одну возможность.
Экономические правила, обеспеченные кодом.
Но код не убирает политику. Он просто переносит политику в дизайн протокола.
Любая система управления создает влияние.
Любой механизм стейкинга создает стимулы.
Любой рынок в конечном итоге развивает неформальные иерархии, независимо от того, насколько децентрализованным он выглядит в начале.
Я не думаю, что Ньютон избегает этих реалий.
На самом деле я бы заподозрил, если бы он это утверждал.
Человеческая координация никогда не была проблемой с постоянными решениями. Это процесс постоянной подстройки.
Возможно, это также станет правдой для децентрализованного ИИ.
Возможно, больше всего из того, что мне нравится в Протоколе Newton, — это не уверенность.
Это сдержанность.
Он не просит меня верить, что любой интеллектуальный системе следует стать полностью прозрачной.
Он не пытается делать вид, будто управление навсегда останется идеально децентрализованным.
Она не обещает, что автономные финансы уберут любую асимметрию между участниками.
Вместо этого, похоже, он признает, что доверие нельзя устранить.
Его можно только перенастроить заново.
Похоже, это намного здоровее начинать именно отсюда.
У меня все еще есть сомнения.
Интересно, как будет развиваться управление, когда успешные разработчики ИИ начнут накапливать влияние.
Интересно, остаются ли экономические стимулы согласованными спустя годы роста, а не месяцев.
Интересно, как обычные пользователи отличают действительно надежные автономные системы от тех, которые просто хорошо себя продают.
Это не критика, уникальная для Ньютона.
Это вопросы, с которыми в конечном итоге придется столкнуться каждому серьезному инфраструктурному проекту в сфере ИИ.
Возможно, поэтому этот протокол задержался во мне дольше, чем я ожидал.
Не потому, что я ушел, поверив, будто все ответы уже найдены, а потому что я ушел, задавая лучшие вопросы, чем те, с которых начал.
Я заметил, что проекты, к которым стоит возвращаться, редко те, что делают самые громкие заявления. Чаще это те, которые тихо раскрывают проблемы, которых я раньше не заметил в полной мере.
Протокол Newton сделал это для меня.
Это напомнило мне: у будущего децентрализованных систем может быть меньше общего с более быстрыми блок-таймами или более сложными моделями, чем с чем-то удивительно обычным.
Учиться доверять системам, которые все чаще думают, принимают решения и действуют без нас.
Это не просто технический вызов.
Похоже, это начало социальной истории.
И какой бы ни была форма следующего поколения инфраструктуры ИИ, я подозреваю, что этот вопрос переживет любые отдельные протоколы, пытающиеся на него ответить.
