🚨 ХОРОШИЙ ИИ ВСЁ ЕЩЁ МОЖЕТ ДЕЛАТЬ ПЛОХИЕ ВЕЩИ.
Звучит противоречиво.
Но это может стать одной из определяющих задач ИИ-ориентированных финансов.
Большинство людей считает, что главная угроза — злонамеренный ИИ.
Я — нет.
Более серьёзный риск — это хороший ИИ, который безупречно выполняет плохие политики.
ИИ не понимает этику.
Он не понимает последствия.
Он не решает, что правильно, а что неправильно.
Он просто исполняет выданные ему разрешения, цели и политики.
Поэтому даже сверхинтеллектуальный ИИ может принимать катастрофические финансовые решения — не потому, что он «сломался», а потому что он сделал ровно то, чему его разрешили.
Вот почему я считаю, что разговор нужно сдвинуть.
Вместо вопроса: «Как нам создать более умный ИИ?»
Нужно спросить: «Как нам построить лучшее разграничение полномочий?»
🛡️ Именно здесь @NewtonProtocol выделяется.
$NEWT не пытается заменить человеческое суждение ИИ.
Она выстраивает уровень авторизации для ИИ-ориентированных финансов, гарантируя, что агенты ИИ действуют в программируемых, проверяемых границах, а не с неограниченными правами.
Благодаря авторизации ДО исполнения каждое действие ИИ оценивается по заданным политикам перед тем, как будет выполнено.
С программируемыми разрешениями разработчики и организации могут точно определить, к каким активам ИИ может получать доступ, с какими протоколами он может взаимодействовать, какие лимиты на расходы допустимы, при каких условиях можно исполнять действия и какие требования к одобрению нужны до того, как капитал вообще начнёт двигаться.
В сочетании с движком политик, авторизацией агента ИИ и проверяемым обеспечением соблюдения политик Newton превращает доверие из ручного решения в программируемую инфраструктуру.
Это фундаментальный сдвиг.
Потому что в будущем самым безопасным ИИ будет не тот, кто самый умный.
Им будет тот, кто знает, что ему разрешено делать — и что ему делать нельзя.
🤔 Если ИИ следовал всем правилам строго так, как задумано, но всё равно уничтожил весь ваш портфель… кто тогда реально отвечает?
ИИ, разработчик или человек, который написал правила?
Вы можете выбрать только ОДНО.
#Newt
Звучит противоречиво.
Но это может стать одной из определяющих задач ИИ-ориентированных финансов.
Большинство людей считает, что главная угроза — злонамеренный ИИ.
Я — нет.
Более серьёзный риск — это хороший ИИ, который безупречно выполняет плохие политики.
ИИ не понимает этику.
Он не понимает последствия.
Он не решает, что правильно, а что неправильно.
Он просто исполняет выданные ему разрешения, цели и политики.
Поэтому даже сверхинтеллектуальный ИИ может принимать катастрофические финансовые решения — не потому, что он «сломался», а потому что он сделал ровно то, чему его разрешили.
Вот почему я считаю, что разговор нужно сдвинуть.
Вместо вопроса: «Как нам создать более умный ИИ?»
Нужно спросить: «Как нам построить лучшее разграничение полномочий?»
🛡️ Именно здесь @NewtonProtocol выделяется.
$NEWT не пытается заменить человеческое суждение ИИ.
Она выстраивает уровень авторизации для ИИ-ориентированных финансов, гарантируя, что агенты ИИ действуют в программируемых, проверяемых границах, а не с неограниченными правами.
Благодаря авторизации ДО исполнения каждое действие ИИ оценивается по заданным политикам перед тем, как будет выполнено.
С программируемыми разрешениями разработчики и организации могут точно определить, к каким активам ИИ может получать доступ, с какими протоколами он может взаимодействовать, какие лимиты на расходы допустимы, при каких условиях можно исполнять действия и какие требования к одобрению нужны до того, как капитал вообще начнёт двигаться.
В сочетании с движком политик, авторизацией агента ИИ и проверяемым обеспечением соблюдения политик Newton превращает доверие из ручного решения в программируемую инфраструктуру.
Это фундаментальный сдвиг.
Потому что в будущем самым безопасным ИИ будет не тот, кто самый умный.
Им будет тот, кто знает, что ему разрешено делать — и что ему делать нельзя.
🤔 Если ИИ следовал всем правилам строго так, как задумано, но всё равно уничтожил весь ваш портфель… кто тогда реально отвечает?
ИИ, разработчик или человек, который написал правила?
Вы можете выбрать только ОДНО.
#Newt
