Я добавил небольшую позицию в Newton Protocol пару дней назад. Ничего грандиозного — просто чтобы заставить себя обращать внимание, а не пролистывать очередной проект от ИИ. Сначала я предположил, что это следует той же формуле, которую я видел десятки раз: более крупные модели, более умные агенты, больше автоматизации. Но после того как я какое-то время изучал дизайн, я понял, что часть, которая меня заинтересовала, на самом деле была не про ИИ.
Там была система разрешений.
Это, наверное, звучит странно как причина смотреть на проект, но выслушайте меня.
Большинство обсуждений ИИ, похоже, сосредоточены на том, чтобы сделать модели более способными. Лучшее рассуждение, более долгая память, больше автономности. Эти улучшения важны, но, думаю, они заставляют людей упускать более практичный вопрос.
Что именно ИИ должен быть вправе делать?
Между ИИ, который умеет принимать решения, и ИИ, которому разрешено действовать на основе этих решений, есть огромная разница. Как только агент начинает взаимодействовать с кошельками, подписывать транзакции или перемещать активы, главным становится не то, каковы его возможности. Проблема — в полномочиях.
Вот о чём протокол Newton заставил меня задуматься иначе.
Их подход строится вокруг того, что они называют «авторизацией до выполнения». Суть не в том, чтобы предполагать, что ИИ всегда сделает правильный выбор. Вместо этого каждое действие можно сверить с заранее заданными политиками, прежде чем что-либо реально произойдет.
Похоже, это небольшое изменение формулировки, но я не думаю, что это так.
Я работаю с автоматизацией, когда могу — это экономит время, — но я также научился не доверять автоматизации неограниченную свободу. Несколько месяцев назад торговый скрипт повёл себя иначе, чем я ожидал, из‑за одного условия, которое я забыл обновить. Это не стало катастрофой, но было достаточно, чтобы напомнить: программному обеспечению не нужны плохие намерения, чтобы приводить к плохим результатам.
Иногда он просто слишком хорошо следует инструкциям.
Похоже, дизайн Newton построен на принятии реальности, а не на притворстве, что ИИ всегда будет принимать идеальные решения.
Например, разработчики могут определить, к каким кошелькам ИИ имеет право получать доступ, с какими протоколами он может взаимодействовать, какие лимиты на расходы установлены, какие пороги риска допустимы или какие действия всё ещё требуют одобрения человека. Вместо того чтобы надеяться, что агент будет корректно вести себя абсолютно каждый раз, система создаёт границы, которые существуют ещё до того, как выполнение вообще начнётся.
Именно в этом различии я раньше по-настоящему не отдавал себе отчёт.
Когда люди слышат «безопасность», они часто представляют себе выявление атак после того, как они уже произошли. Философия Newton, похоже, ближе к тому, чтобы вообще не допускать лишних властных полномочий в первую очередь.
Чем больше я об этом думал, тем больше это напоминало мне о том, как уже работают традиционные финансовые системы.
Банки не позволяют каждому сотруднику в любой момент перемещать средства компании. Обычно крупные переводы требуют нескольких одобрений. Команды корпоративных финансов устанавливают лимиты на расходы. Даже такая обычная вещь, как оплата кредитной картой, включает проверки авторизации до того, как деньги покидают счёт.
Никто не ожидает, что один лишь опыт полностью устранит риск.
Вместо этого системы строятся вокруг ограничения того, что людям разрешено делать.
Та же логика становится всё более актуальной, если в дальнейшем ИИ-агенты начнут управлять цифровыми активами от имени пользователей.
Ещё один момент, который привлёк моё внимание, — команда, стоящая за проектом. Magic Labs уже помогла подключить к криптовалюте миллионы пользователей, так что они не подходят к инфраструктуре кошельков как к полному «новичку с нуля». Удастся Newton или нет, я думаю, что этот опыт важен, потому что идентичность, кошельки и авторизация пересекаются таким образом, о котором многие обсуждения ИИ почти не упоминают.
Я не делаю вид, что нашёл какой-то спрятанный бриллиант и что я полностью «вошёл в тему». Моя позиция всё ещё относительно небольшая, потому что я хочу посмотреть, как будет развиваться внедрение со временем.
Но я заметил кое-что интересное.
Каждый раз, когда я возвращаюсь к своим заметкам о Newton, я трачу меньше времени на размышления об интеллекте ИИ и больше — на то, какие у ИИ есть разрешения. Это изменение я не ожидал.
Возможно, следующий этап развития ИИ будет определяться не тем, какая модель станет самой умной.
Возможно, это будет определяться тем, какие системы смогут безопасно контролировать, что именно этот интеллект вообще имеет право делать.
Для меня это стало главной инвестиционной гипотезой здесь.
Я всё ещё наблюдаю, всё ещё учусь и всё ещё подвергаю сомнению собственные предположения. Но если со временем ИИ доверят взаимодействовать с капиталом, кошельками и финансовой инфраструктурой, то авторизация, возможно, окажется не менее ценной, чем сам интеллект.
Вот та часть протокола Newton, которая убедила меня продолжать внимательно следить за происходящим.
@NewtonProtocol #Newt $NEWT $NVDAB $BTC
