Я размышлял о нарративе вокруг ИИ-агентов #Kite , и кое-что легко упустить из виду: умный агент не становится автоматически надёжным.
Представьте, что вы даёте ИИ возможность покупать услуги, обращаться к API или совершать платежи от вашего имени. Тогда возникает главный вопрос: что именно этому агенту разрешено делать и как мы можем проверять его действия?
Именно эта сторона Kite AI кажется мне интересной.
Благодаря Agent Passport у агента может быть собственная личность и кошелёк, при этом он продолжает работать в рамках разрешений, заданных пользователем. Вместо того чтобы предоставлять ИИ неограниченный доступ к средствам или услугам, можно установить чёткие ограничения на то, что ему разрешено выполнять.
Важную роль играет и уровень платежей и транзакций. Если агенты будут взаимодействовать с реальными компаниями и другими агентами, их действия должны быть отслеживаемыми и более простыми для проверки.
Мне кажется, эта задача гораздо сложнее, чем просто сделать модели ИИ умнее. Более умный агент может принимать более взвешенные решения, но без идентификации, разрешений и надёжной платёжной инфраструктуры эти решения могут оказаться бесполезными в реальной экономике.
Теперь мне интереснее посмотреть, что разработчики действительно создадут с помощью этих инструментов. Перейдут ли они от демонстраций и экспериментов к приложениям, которыми люди будут пользоваться на самом деле?
Для меня настоящая проверка экономики агентов — не то, насколько умными они станут.
А то, сможем ли мы доверить им действовать от нашего имени.
#KiteBBW $KITE
Представьте, что вы даёте ИИ возможность покупать услуги, обращаться к API или совершать платежи от вашего имени. Тогда возникает главный вопрос: что именно этому агенту разрешено делать и как мы можем проверять его действия?
Именно эта сторона Kite AI кажется мне интересной.
Благодаря Agent Passport у агента может быть собственная личность и кошелёк, при этом он продолжает работать в рамках разрешений, заданных пользователем. Вместо того чтобы предоставлять ИИ неограниченный доступ к средствам или услугам, можно установить чёткие ограничения на то, что ему разрешено выполнять.
Важную роль играет и уровень платежей и транзакций. Если агенты будут взаимодействовать с реальными компаниями и другими агентами, их действия должны быть отслеживаемыми и более простыми для проверки.
Мне кажется, эта задача гораздо сложнее, чем просто сделать модели ИИ умнее. Более умный агент может принимать более взвешенные решения, но без идентификации, разрешений и надёжной платёжной инфраструктуры эти решения могут оказаться бесполезными в реальной экономике.
Теперь мне интереснее посмотреть, что разработчики действительно создадут с помощью этих инструментов. Перейдут ли они от демонстраций и экспериментов к приложениям, которыми люди будут пользоваться на самом деле?
Для меня настоящая проверка экономики агентов — не то, насколько умными они станут.
А то, сможем ли мы доверить им действовать от нашего имени.
#KiteBBW $KITE