Я поймал себя на мысли о проблеме, которой уделяют мало внимания, когда люди говорят об ИИ и блокчейнах.
Большинство обсуждений сводится к возможностям.
Может ли ИИ анализировать рынки быстрее, чем человек?
Может ли он исполнять сделки более эффективно?
Может ли он координировать сложные рабочие процессы?
Это интересные вопросы, но все они исходят из одного и того же: что ИИ следует позволить действовать, как только он решит, что делать.
Чем больше я думал об этом, тем более неполной казалась эта предпосылка.
Возможно, более сложная задача — не создание автономных агентов.
Возможно, это решает, в децентрализованной среде, когда этим агентам нельзя действовать.
Это осознание полностью изменило то, как я начал смотреть на протоколы, созданные для автономной автоматизации на основе ИИ.
Вместо того чтобы спрашивать, как они делают ИИ умнее, я начал спрашивать, как они делают автономные решения безопаснее.
Этот сдвиг в перспективе привел меня к интересному наблюдению.
По мере того как системы на ИИ становятся всё более способными, разрешения могут стать более ценным ресурсом, чем сами вычисления.
От идентичности к намерению
Традиционная безопасность блокчейна построена вокруг идентичности.
Кошелек подписывает транзакцию.
Сеть проверяет подпись.
Если подпись действительна и транзакция соответствует правилам консенсуса, выполнение продолжается.
Эта модель удивительно хорошо работает, когда большинство действий инициируют люди.
Люди делают паузу.
Люди пересматривают подход.
Люди иногда замечают, что что-то кажется неправильным, еще до того как нажать «Подтвердить».
Автономное программное обеспечение ведет себя иначе.
Торговая стратегия на ИИ не устает.
Он не спит.
Она не колеблется.
Она просто продолжает принимать решения в соответствии со своими целями.
Такая согласованность — одна из его самых больших сильных сторон.
Это также один из самых больших рисков.
Если автономной системе дать широкие полномочия, она может совершить тысячи полностью валидных транзакций, которые в совокупности приведут к нежелательному результату.
Технически может быть ничто не неверно.
Подписи остаются действительными.
Протокол ведет себя точно так, как задумано.
И всё же результат может по-прежнему нарушать намерения создателя приложения.
Это наводит на мысль, что одна только идентичность становится менее надежным примитивом безопасности.
Знание того, кто отправил транзакцию, говорит меньше, чем понимание того, должна ли эта транзакция происходить при текущих условиях.
Разрешения становятся динамическими
Одна идея, которая особенно выделялась при изучении блокчейн-архитектур, ориентированных на ИИ, заключалась в том, что авторизация больше не обязательно должна быть статичной.
Исторически разрешения казались простыми.
У аккаунта либо был доступ, либо его не было.
Контракт либо принял вызывающего, либо отклонил его.
Автономные системы вносят гораздо больше нюансов.
Возможно, агент должен выполнять сделки только тогда, когда волатильность остается ниже порога.
Возможно, переводы должны приостанавливаться, если внешние индикаторы риска ухудшаются.
Возможно, заимствование должно требовать нескольких независимых условий, прежде чем капитал сможет перемещаться.
Это не вопросы идентичности.
Это вопросы контекста.
Интересное следствие состоит в том, что авторизация начинает напоминать непрерывную оценку, а не разовое одобрение.
Разрешение становится чем-то, что нужно получать снова и снова, а не выдавать один раз.
Зачем отделять принятие решений от авторизации?
Сначала это разделение казалось ненужным.
Если ИИ уже решает, какое действие предпринять, зачем добавлять еще один уровень?
Ответ стал яснее после того, как я задумался о том, как инженерные системы часто развиваются.
Современные операционные системы не предполагают, что каждое приложение должно иметь доступ ко всем файлам.
Облачные платформы не предполагают, что каждый сервис должен общаться с каждой базой данных.
Крупные организации редко разрешают каждому сотруднику неограниченный доступ просто потому, что он успешно вошел.
Сложные системы все чаще отделяют возможности от разрешений.
Похоже, что приложения для блокчейна, управляемые ИИ, движутся в том же направлении.
Интеллектуальный агент может создавать возможности.
Слой политик оценивает, удовлетворяет ли выполнение этих возможностей заранее заданным правилам.
Ни один из слоев не заменяет другой.
Вместо этого каждый специализируется.
Один фокусируется на оптимизации.
Другой фокусируется на контроле.
Такое разделение уменьшает число обязанностей, возложенных на любой один компонент.
Скрытое допущение
Но эта архитектура незаметно вводит одно допущение.
Политикам нужна информация.
Иногда эта информация уже существует в onchain.
Баланс счета.
Владение токенами.
Состояние контракта.
Это относительно просто, потому что ноды блокчейна уже согласны с этим.
Другие ситуации становятся более сложными.
Допустим, правило авторизации зависит от рыночных условий.
Или требования комплаенса.
Или организационные одобрения.
Или метрики риска для предприятия.
Эти входные данные берутся откуда-то еще.
Даже если их получают безопасно и тщательно оценивают, кто-то все равно должен поддерживать инфраструктуру, которая их производит.
Это наблюдение продолжало уводить мое внимание от самой логики авторизации.
Настоящий вопрос был не в том, могут ли политики стать выразительными.
Вопрос был в том, оставалась ли их поддерживающая информация заслуживающей доверия со временем.
Лучшие решения зависят от лучшего контекста
Автономный агент редко терпит неудачу из-за отсутствия вычислительных возможностей.
Чаще всего это происходит из-за того, что система получает неполный или вводящий в заблуждение контекст.
Человеческое принятие решений работает примерно так же.
Блестящий аналитик, работающий с устаревшей информацией, может прийти к плохим выводам.
К тому же принципу относится и программное обеспечение.
Добавление оценки политик само по себе не улучшает суждение.
Это улучшает качество ограничений, накладываемых на автоматизированное поведение.
Однако эти ограничения наследуют сильные и слабые стороны той информации, которая их питает.
Это не делает архитектуру недействительной.
Это просто напоминает нам, что качество решений зависит от качества контекста.
Компромиссы редко исчезают
Один и тот же паттерн снова и снова встречается в информатике.
Проблемы часто перемещаются, а не исчезают.
Виртуализация снизила сложность оборудования, одновременно увеличив сложность оркестрации.
Облачные вычисления упростили развертывание, одновременно добавив операционные зависимости.
Микросервисы улучшили модульность, одновременно усложнив наблюдаемость распределенных систем.
Авторизация с помощью ИИ следует похожему шаблону.
Богатые движки политик снижают риск неограниченной автоматизации.
Однако они повышают важность сопровождения политик.
Теперь у разработчиков появляется больше ответственности.
Политики требуют тестирования.
Внешние зависимости требуют мониторинга.
Неожиданные условия требуют корректного и устойчивого поведения.
Ни одна из этих обязанностей не указывает на ошибочный дизайн.
Они — доказательство того, что гибкость стоит денег.
Каждая абстракция переносит сложность куда-то еще.
Почему это важно за пределами торговли
Есть соблазн связывать авторизацию с ИИ только с автоматизированной торговлей.
Более широкие последствия кажутся более интересными.
Представьте децентрализованные организации с автономным управлением казначейством.
Цепочки поставок, координирующие платежи автоматически.
Протоколы страхования оценивают претензии.
Потребительские приложения планируют повторяющуюся финансовую активность.
Системы здравоохранения, работающие с чувствительными разрешениями.
В каждом сценарии вопрос заключается не просто в том, существует ли автоматизация.
Вопрос в том, остается ли автоматизация согласованной с меняющимися целями.
Статические разрешения плохо справляются в средах, где со временем приемлемое поведение меняется.
Динамическая авторизация пытается решить именно эту проблему.
Удастся ли это — зависит меньше от продвинутости моделей ИИ, чем от качества управления вокруг них.
Инженерия отказов
Один аспект, который мне нравится в моделях многоуровневой авторизации, — в том, что они признают то, что инженеры иногда упускают.
Каждый компонент в конечном итоге сталкивается с отказами.
Сеть испытывает простои.
Внешние сервисы становятся недоступны.
Приходит неожиданная информация.
Программное обеспечение ведет себя непредсказуемо.
Интересный вопрос не в том, происходят ли сбои.
Вопрос в том, будет ли система продолжать вести себя безопасно после того, как это случится.
Проектирование с учетом отказов часто дает более сильные архитектуры, чем проектирование исключительно ради успеха.
Слой авторизации становится полезным не только тогда, когда всё работает идеально, но и тогда, когда неопределенность растет.
В такие моменты отказ от действия может означать самое безопасное решение.
Этот принцип неожиданно актуален, когда ИИ-системы получают больше операционной автономности.
Другой способ измерять прогресс
Технологические обсуждения часто делают акцент на скорости.
Меньшая задержка.
Более высокая пропускная способность.
Больше транзакций.
Более крупные модели.
Более высокая эффективность.
Эти улучшения имеют значение.
И всё же мне интересно, не заставляют ли нас эти решения упускать еще одну метрику.
Возможно, зрелую инфраструктуру ИИ тоже следует измерять качеством ее сдержанности.
Насколько эффективно он может предотвращать нежелательные действия?
Насколько прозрачно система может объяснять решения по авторизации?
Насколько предсказуемо она ведет себя, когда предположения перестают быть верными?
Эти вопросы могут оказаться столь же важными, как и «сырое» быстродействие.
В конце концов, мощная автоматизация без надежных границ не обязательно приводит к доверяемым системам.
Он просто делает их быстрее.
Заключительная мысль
Чем дольше я изучал архитектуры, которые объединяют ИИ с выполнением в блокчейне, тем меньше убеждался, что интеллект — это ключевая проблема.
Возможности продолжают улучшаться по всей отрасли.
Разрешения по-прежнему гораздо труднее.
Проектирование систем, которые непрерывно оценивают, остаются ли автономные действия уместными, требует тщательного мышления о доверии, контексте, управлении и отказах — не только об алгоритмах.
Возможно, это более важная инженерная проблема.
Если со временем ИИ-агенты станут обычным явлением во всех децентрализованных приложениях, то будут ли успешные системы теми, у кого самые умные модели, — или теми, кто задает самые умные границы того, что эти модели могут делать?