Несколько месяцев назад я бы оценивал(а) проект в области ИИ по одному вопросу:
@NewtonProtocol Насколько умна модель?
Теперь я ловлю себя на мысли, что задаю совсем другой вопрос.
Насколько реальной властью обладает эта модель?
Это изменение произошло после того, как я потратил(а) больше времени на изучение проектов, находящихся на стыке ИИ и блокчейна. Чем больше я читал(а), тем больше понимал(а), что интеллект больше не является самой сложной задачей. Современный ИИ развивается с невероятной скоростью.
Самая сложная задача начинается после того, как ИИ приходит к выводу.
Что будет дальше?
Он сразу же выполняет транзакцию?
Может ли он переместить все активы в кошельке?
Может ли он игнорировать лимиты расходов, если считает, что есть более выгодная возможность?
Большинство обсуждений заканчиваются раньше, чем эти вопросы вообще появляются.
Вот почему Newton Protocol выделился для меня.
Вместо того чтобы фокусироваться только на том, чтобы сделать автономных агентов более способными, протокол вводит нечто удивительно практичное: слой авторизации, предназначенный для оценки разрешений до того, как выполнение вообще начнётся.
На первый взгляд это не звучит так захватывающе, как более быстрый ИИ или более продуманные рассуждения.
Но инфраструктура редко побеждает, потому что это звучит слишком заманчиво.
Он побеждает, потому что решает проблемы, с которыми в итоге сталкиваются все.
Подумайте, как ремни безопасности изменили автомобили.
Они не сделали двигатели быстрее.
Они не улучшили мощность.
Они просто приняли, что мощным системам тоже нужна защита, когда что-то неожиданное происходит.
Я думаю, что фреймворки разрешений играют для автономных финансов схожую роль.
По мере того как ИИ-агенты становятся более распространёнными в трейдинге, управлении портфелями и децентрализованных приложениях, ошибки будут не всегда исходить из плохого интеллекта.
Иногда ИИ может принять правильное решение, даже имея неполную информацию.
Иногда рыночные условия меняются уже через секунды.
Иногда пользователи просто не хотят, чтобы агент выполнял определённые действия, независимо от того, насколько они кажутся прибыльными.
Это не проблемы интеллекта.
Это проблемы управления (governance).
Это важное различие.
Годы криптоиндустрия делала упор на устранение посредников.
Теперь ему предстоит ещё одна задача.
Как убрать ненужное вмешательство человека, не убирая при этом контроль со стороны человека?
Это не одно и то же.
Автоматизация должна уменьшать повторяющуюся работу.
Он не должен отнимать у людей владение границами принятия решений.
Вот где Newton Protocol ощущается иначе.
Протокол смещает фокус разговора с вопроса о том, может ли ИИ что-то сделать, на вопрос о том, можно ли разрешить ИИ сделать это при заранее определённых условиях.
Это тонкое различие может стать всё более важным по мере того, как автономные системы будут созревать.
Потому что когда ИИ начинает взаимодействовать напрямую с реальными активами, каждое разрешение становится частью модели безопасности.
Блестящий алгоритм с неограниченными полномочиями может на самом деле создать больше риска, чем более простой систему, работающую в рамках тщательно определённых правил.
История снова и снова показывает этот паттерн.
Технологии обычно масштабируются быстрее, чем доверие.
Интернет решил коммуникацию прежде, чем он решил идентификацию.
Облачные вычисления масштабировались прежде, чем кибербезопасность полностью созрела.
Соцсети подключили миллиарды людей до того, как модерация стала глобальной проблемой.
ИИ, вероятно, следует тому же пути.
Возможности приходят первыми.
Ограждения догоняют позже.
Проекты, которые создают такие ограждения, могут не получать столько же внимания, сколько яркие демонстрации ИИ, но со временем они могут стать столь же важными.
Конечно, каждый протокол всё равно должен доказать свою состоятельность через внедрение, безопасность, активность разработчиков и реальное использование.
Одна лишь архитектура не гарантирует успех.
Именно выполнение решает, выживает ли идея.
При этом я думаю, что отрасль постепенно задаёт более правильные вопросы.
Вместо того чтобы оценивать ИИ только по бенчмаркам производительности, мы начинаем думать об ответственности, прозрачности и управлении разрешениями.
Лично для меня именно туда сместилось моё внимание.
Будущее автономных финансов не будет зависеть только от создания более умного ИИ.
Это будет зависеть от построения систем, в которых интеллект работает в пределах, выбранных людьми, которые действительно владеют активами.
Потому что доверие не создаётся тогда, когда ИИ становится более мощным.
Доверие появляется, когда у власти всегда есть ограничения.
@NewtonProtocol #Newt #newt $NEWT
