#newt $NEWT
Большинство обсуждений ИИ в Web3 фокусируются на одном вопросе:
Может ли ИИ принимать решения лучше, чем люди?
Потратив время на изучение блокчейн-архитектур, ориентированных на ИИ, я неожиданно задал другой вопрос:
Кто решает, когда ИИ нельзя разрешать действовать?
Эта разница кажется куда более важной, чем сначала может показаться.
Подпись кошелька доказывает, кто отправил транзакцию, но не объясняет, остается ли такая транзакция разумной при меняющихся рыночных условиях, лимитах рисков или правилах управления.
Именно поэтому меня заинтересовала программируемая авторизация. Вместо того чтобы выдавать ИИ неограниченные полномочия после развертывания, политики могут непрерывно оценивать, соответствуют ли его действия заранее заданным условиям — прежде чем выполнять их.
Интересный компромисс в том, что более «умная» авторизация требует более качественного контекста. Если политики опираются на внешние данные, доверие никуда не исчезает — оно смещается к качеству и надежности этой информации.
Чем больше я об этом думал, тем меньше это казалось проблемой ИИ и тем больше — проблемой управления.
По мере того как автономные агенты становятся все более способными, возможно, главная сложность будет заключаться не в том, чтобы строить более умный ИИ, а в том, чтобы проектировать более умные границы того, что ИИ вообще разрешено делать.
Как вы думаете, что будет важнее в долгосрочной перспективе: более интеллектуальные агенты ИИ или более интеллектуальные политики авторизации?
@NewtonProtocol #NEWT $NEWT
Большинство обсуждений ИИ в Web3 фокусируются на одном вопросе:
Может ли ИИ принимать решения лучше, чем люди?
Потратив время на изучение блокчейн-архитектур, ориентированных на ИИ, я неожиданно задал другой вопрос:
Кто решает, когда ИИ нельзя разрешать действовать?
Эта разница кажется куда более важной, чем сначала может показаться.
Подпись кошелька доказывает, кто отправил транзакцию, но не объясняет, остается ли такая транзакция разумной при меняющихся рыночных условиях, лимитах рисков или правилах управления.
Именно поэтому меня заинтересовала программируемая авторизация. Вместо того чтобы выдавать ИИ неограниченные полномочия после развертывания, политики могут непрерывно оценивать, соответствуют ли его действия заранее заданным условиям — прежде чем выполнять их.
Интересный компромисс в том, что более «умная» авторизация требует более качественного контекста. Если политики опираются на внешние данные, доверие никуда не исчезает — оно смещается к качеству и надежности этой информации.
Чем больше я об этом думал, тем меньше это казалось проблемой ИИ и тем больше — проблемой управления.
По мере того как автономные агенты становятся все более способными, возможно, главная сложность будет заключаться не в том, чтобы строить более умный ИИ, а в том, чтобы проектировать более умные границы того, что ИИ вообще разрешено делать.
Как вы думаете, что будет важнее в долгосрочной перспективе: более интеллектуальные агенты ИИ или более интеллектуальные политики авторизации?
@NewtonProtocol #NEWT $NEWT
