Вы бы доверили ИИ-агенту свою карту и уехали на месяц?

Большинство людей колеблется, и дело не в интеллекте. Сегодня у вас два варианта: предоставить агенту полные финансовые полномочия или одобрять каждую покупку самостоятельно. Первый подвергает вас неограниченному риску. Второй лишает агента автономности, которая и делает его полезным.

В техническом документе Kite утверждается, что настоящее ограничение связано с инфраструктурой, созданной для людей, а не с возможностями моделей.

Больше всего мне запомнилась система идентификации. Полномочия разделены на три уровня: вы — у корня, ваш агент — с делегированными правами, и ключ сессии, создаваемый для одной задачи и истекающий после её выполнения. Агент никогда не получает доступ к вашему основному ключу. Затем в документе приводятся расчёты. При дневном лимите в $100 на протяжении 30 дней максимальный ущерб при полной компрометации составит $3,000. Это заранее установленный вами верхний предел, а не оптимистичная оценка.

Вторая составляющая — платежи. При оплате картой взимается $0.30 плюс 2.9%, поэтому вызов API стоимостью в один цент обходится в тридцать раз дороже своей ценности. Kite использует каналы состояний: открыть один раз, провести расчёт один раз, а между этими действиями — тысячи небольших подписанных платежей. Целевой показатель документа — примерно $0.000001 за сообщение, что и делает оплату за каждый запрос жизнеспособной для агентов.

Моё мнение: архитектура убедительна, но её гарантии зависят от реализации. Доказательство ограниченности убытков предполагает, что лимиты обеспечиваются на стороне провайдера, а показатели стоимости и скорости пока остаются проектными целями — их предстоит проверить на реальном трафике агентов. В основной сети я буду следить за использованием, а не за анонсами.

На что вы позволили бы агенту тратить деньги самостоятельно и какой лимит установили бы?

#KiteBBW $KITE

Вы позволили бы ИИ-агенту самостоятельно тратить ваши деньги?