@NewtonProtocol Разговоры об ИИ-агентах часто исходят из того, что чем больше автономии, тем лучше. Похоже, цель — свести участие человека к минимуму.
Чем больше я слежу за этим направлением, тем больше думаю, что оно упускает главный вызов.
Сложность не в том, чтобы сделать ИИ более независимым.
Сложность в том, чтобы сделать ИИ достаточно заслуживающим доверия, чтобы люди чувствовали себя комфортно, делегируя реальные финансовые решения.
Вот почему протокол Newton Protocol все время оставался у меня в поле зрения.
Вместо того чтобы просить пользователей передавать полный контроль, протокол построен на идее, что делегирование всегда должно сопровождаться исполнимыми ограничениями. Это кажется гораздо более практичным направлением для автономных финансов.
Опасения вокруг агентов ИИ легко понять.
Агент может реагировать быстрее, чем любой человек.
Это не делает их безопаснее.
Лимит расходов значит очень мало, если его можно игнорировать.
Утвержденная контрагентская сторона не дает защиты, если ее можно обойти.
Даже prompt injection становится серьезной проблемой, когда ИИ начинает взаимодействовать с реальными активами.
Newton подходит к этим рискам иначе.
Перед выполнением важного действия протокол оценивает программируемые политики, которые определяют, что агент ИИ может делать.
Разработчики могут устанавливать лимиты расходов.
Они могут утверждать конкретных контрагентов.
Они могут задавать условия транзакций и защиту от подсказок (prompt defenses).
Эти правила становятся частью выполнения, а не необязательными защитными мерами, добавляемыми позже.
Это различие я считаю самым интересным.
Протокол не просит пользователей слепо доверять ИИ.
Она просит их определить границы, через которые ИИ не может переступать.
Хорошая автоматизация — это не про неограниченную власть.
Речь о том, чтобы точно понимать, где начинается эта власть и где она заканчивается.
Архитектура закрепляет ту же философию.
Стратегии ИИ выполняются внутри защищенного rollup от Newton, где соблюдение политик остается верифицируемым на протяжении всего процесса. При этом система сохраняет совместимость с кошельками Ethereum и смарт-контрактами. Разработчики могут внедрять интеллектуальную авторизацию без перестройки той инфраструктуры, которую пользователи уже знают.
Модель разрешений тоже выделяется.
Агентам ИИ не нужен неограниченный доступ к приватным ключам.
Им выдаются только те разрешения, которые требуются для выполнения конкретных действий.
Эти разрешения можно изменять или отзывать по мере необходимости.
Пользователи сохраняют контроль, пока автоматизация выполняет ту работу, на которую ее уполномочили.
Я также думаю, что это меняет то, как разработчики конкурируют.
Реестр моделей позволяет разработчикам публиковать стратегии ИИ, которыми может пользоваться любой.
Успех больше не определяется только тем, насколько умной выглядит модель.
Это также определяется тем, доверяют ли люди правилам вокруг этой модели достаточно, чтобы использовать ее с существенным капиталом.
Конечно, ограждения (guardrails) — не идеальное решение.
Политики по-прежнему пишут люди.
Плохо спроектированная логика авторизации может создать новые риски так же, как это делают ошибочные смарт-контракты.
По мере того как автономные системы становятся более способными, эти политики нужно будет постоянно улучшать, а не оставлять неизменными навсегда.
Есть и другая проблема.
Некоторые разработчики всегда будут гнаться за более высокой доходностью, потому что производительность привлекает внимание.
Newton может предоставить инструменты для ответственной автоматизации.
Экосистема по-прежнему должна вознаграждать тех, кто создает решения и ценит надежность не меньше, чем прибыль.
Я также задаюсь вопросом, действительно ли пользователи хотят полной автоматизации.
Многие, похоже, чувствуют себя комфортно, позволяя ИИ помогать с финансовыми решениями.
Мало кто, похоже, готов передать полный контроль над своим капиталом.
Поэтому подход Newton кажется мне реалистичным.
Он принимает, что люди хотят автоматизацию, не отказываясь от владения.
Чем больше я изучаю протокол Newton, тем меньше я думаю, что будущее принадлежит агентам ИИ, которые заменяют человеческое суждение.
Самые сильные системы, вероятно, будут сочетать интеллектуальную автоматизацию с четкими и поддающимися проверке границами.
Если автономные финансы должны заслужить долгосрочное доверие, пользователи никогда не должны выбирать между контролем и удобством.
Им следует уметь сохранить и то, и другое.