Я начал задумываться, не является ли самой сложной частью ИИ не то, как сделать его умнее, а то, как сделать его ответственным.
Большинство разговоров об ИИ-агентах сосредоточены на том, на что они смогут. Совершать сделки, управлять портфелями, перемещать активы, договариваться с другими агентами. Похоже, предполагается, что узким местом является возможность. После того как я потратил время на изучение протокола Newton, я уже не уверен, что это действительно главная трудность.
Упущенная проблема — доверие после делегирования.
В тот момент, когда мы разрешаем ИИ-агенту действовать от нашего имени, мы создаём новые отношения. Мы перестаём принимать каждое решение сами и начинаем полагаться на ПО, которое интерпретирует наши намерения. Звучит эффективно, пока не случится что-то неожиданное. Если агент примет плохое решение, выйдет за пределы своих полномочий или просто выполнит инструкции так, как никто не ожидал, кто будет нести ответственность? И что ещё важнее: как мы проверим, что именно произошло на самом деле?
Традиционное программное обеспечение обычно выполняет детерминированный код. ИИ-системы не всегда ведут себя таким образом. Они работают с вероятностями, контекстом и меняющейся информацией. Из-за этого подотчетность гораздо сложнее, чем просто проверить, успешно ли прошла транзакция.
Это та часть Newton Protocol, которая удержала мое внимание. Вместо того чтобы рассматривать автоматизацию как пункт назначения, он рассматривает управление и верификацию как часть самой инфраструктуры. Безопасный rollup, спроектированный вокруг разрешений, политик и проверяемого исполнения, предполагает, что будущим системам ИИ могут понадобиться правила работы так же, как и требуется интеллект.
Меня интересует не только технология. Меня интересует лежащее в основе предположение. Похоже, проект понимает, что внедрение не будет зависеть только от того, насколько способным становится ИИ. Возможно, оно будет зависеть от того, смогут ли люди безопасно делегировать полномочия, не теряя видимости того, что делают их агенты.
По мере того как ИИ становится более автономным, инфраструктура может незаметно заменить интеллект как самое большое конкурентное преимущество. Проекты, которые формируют доверие, координацию и подотчетность, могут сильнее повлиять на следующее поколение onchain-приложений, чем сами модели.
Вопрос, к которому я постоянно возвращаюсь, звучит так: когда ИИ-агенты станут обычными в крипто, пользователи выберут самого умного агента или того, чьи действия они действительно могут проверить?