Первая реакция, которая у меня была, не была восторгом. Скорее что-то похожее на колебание — из тех, что возникают, когда смотришь, как достаточно амбициозных идей со временем стареют на публике.
Не потому, что Newton Protocol показался нереалистичным. Наоборот, он звучал почти разумно. И это, в свою очередь, стало причиной замедлиться.
Я много лет был(а) рядом с криптой и достаточно хорошо это изучил(а), чтобы заметить: интересные вопросы обычно появляются после того, как белые книги перестают говорить. Когда диаграммы готовы и все согласны с тем, что система должна делать, реальность тихо начинает вести переговоры о собственной версии.
Вот о чем я постоянно думаю.
Люди естественно сосредотачиваются на том, как ИИ принимает решения. Я их не виню. Проще представить себе интеллектуальную стратегию, чем думать о том, что инфраструктура несет на себе тысячи таких стратегий одновременно, и каждая из них реагирует на остальные — причем в условиях, которые никогда не бывают такими чистыми, как во время тестирования.
Рынки — не лаборатории.
И децентрализованные сети — тоже.
Стратегия не существует сама по себе после того, как её внедряют. Она начинает влиять на среду, которую наблюдают другие стратегии. Одна автоматизированная сделка становится входными данными другой системы. Возникают петли обратной связи, которые никто не проектировал намеренно. Итог — не обязательно провал. Иногда это просто поведение, которое никто не предсказал, потому что каждый отдельный компонент сам по себе выглядел вполне разумно.
Эта возможность почему-то ощущается недооцененной.
Когда я слышу обсуждения выполнения решений ИИ, замечаю, как часто интеллект воспринимают как дефицитный ресурс. Я больше не уверен в этом. Надежная координация, похоже, встречается гораздо реже.
Модель может улучшаться раз в несколько месяцев. Инфраструктура не получает такого удовольствия. Ей нужно оставаться надежной, пока происходят обновления, пока меняются стимулы, пока участники приходят и уходят. Эти медленные изменения обычно и приводят к тому, что уверенность начинает расходиться с реальностью.
Наверное, поэтому защищенное выполнение кажется мне более интересным, чем умное выполнение.
Я не имею в виду безопасность в драматичном смысле. Не взломы или катастрофические уязвимости, хотя их невозможно игнорировать. Я думаю о более тихих провалах. Небольшие несоответствия, которые накапливаются со временем. Задержки, которые кажутся безобидными, пока рынки не становятся волатильными. Экономические стимулы, которые постепенно поощряют поведение, изначально никем не задуманное.
Эти вещи почти никогда не приходят с пометкой‑предупреждением.
Newton Protocol, кажется, вращается вокруг этих более глубоких опасений — даже если большинство разговоров уходит в сторону самого ИИ. Я всё время задаюсь вопросом: а не в том ли настоящая сложность — не в создании автономных систем, а в том, чтобы эти системы продолжали вести себя предсказуемо, когда их окружат другие автономные системы с разными целями.
Похоже это меньше на проблему инженерии и больше на бесконечные переговоры.
Я видел достаточно случаев, когда криптоинфраструктура переживала технические нагрузки, а потом начинала испытывать трудности из‑за координации людей. Меняются механизмы управления. Ослабевает внимание разработчиков. Эволюционируют экономические приоритеты. Все эти проблемы не исчезают только потому, что существует очередной слой автоматизации.
Если уж на то пошло, автоматизация может даже сделать их сложнее заметить.
И вот я читаю о проектах вроде Newton Protocol, не пытаясь решить, многообещающе это или разочаровывающе. Кажется, это слишком рано — может быть, даже вообще не тот вопрос.
И вместо этого я снова возвращаюсь к той же тихой мысли.
Будущее, вероятно, не будет зависеть от того, какой ИИ принимает самые умные решения.
Всё может зависеть от того, сможет ли кто-то построить скучную, но надежную основу, которая не даст этим решениям незаметно медленно дрейфовать в нечто, чего никто из нас не ожидал.
Я всё еще не уверен, куда это оставляет мою скептичность. Или же предполагается, что она вообще должна исчезнуть.
