Изучая Kite, я снова и снова возвращался к одной детали: ИИ-агенту можно разрешить тратить деньги, но только в пределах бюджета, лимита на транзакцию и временного окна, одобренных его владельцем-человеком.
Этот выбор в проектировании говорит кое-что важное об экономике агентов. Автономность не обязательно означает, что человека нужно исключить из процесса. Возможно, речь о том, чтобы точно определить, где заканчиваются полномочия человека и начинается свобода действий машины.
Kite Passport реализует этот подход с помощью сессий для расходов и подтверждения на основе ключей доступа. В обновлении документации от 15 октября также больше внимания уделяется практическим сценариям: агенты находят платные услуги, запрашивают разрешение и совершают платежи в установленных пределах.
Мне это противоречие кажется интереснее самого механизма оплаты. Строгие ограничения делают делегирование безопаснее, но вместе с тем устанавливают границы, в рамках которых должны действовать автономные системы. Полезному агенту может потребоваться реагировать на меняющиеся обстоятельства, выбирать незнакомые услуги или принимать несколько связанных решений до того, как человек сможет вмешаться.
Общие лимиты расходов, описанные в релизе Kite от 13 октября, поднимают ещё один вопрос: как нескольким агентам координировать доступ к одним и тем же финансовым ресурсам, не создавая конфликтов и не размывая ответственность?
Такие средства контроля необходимы — это не неудобные пережитки финансовой системы, ориентированной на человека. Однако соблюдение лимитов расходов само по себе не гарантирует, что агент совершит разумные покупки, выберет надёжных поставщиков или добьётся желаемого пользователем результата.
Это различие важно по мере развития коммерции между машинами. Проверяемые платежи позволяют установить, что авторизованная транзакция состоялась, но сами по себе не доказывают, что лежавшее в её основе решение было разумным.
Если агенты могут самостоятельно тратить деньги, оставаясь при этом в рамках заданных человеком правил, где следует провести черту между подлинной автономностью и исполнением под контролем?
@KITE AI #KiteBBW $KITE
Этот выбор в проектировании говорит кое-что важное об экономике агентов. Автономность не обязательно означает, что человека нужно исключить из процесса. Возможно, речь о том, чтобы точно определить, где заканчиваются полномочия человека и начинается свобода действий машины.
Kite Passport реализует этот подход с помощью сессий для расходов и подтверждения на основе ключей доступа. В обновлении документации от 15 октября также больше внимания уделяется практическим сценариям: агенты находят платные услуги, запрашивают разрешение и совершают платежи в установленных пределах.
Мне это противоречие кажется интереснее самого механизма оплаты. Строгие ограничения делают делегирование безопаснее, но вместе с тем устанавливают границы, в рамках которых должны действовать автономные системы. Полезному агенту может потребоваться реагировать на меняющиеся обстоятельства, выбирать незнакомые услуги или принимать несколько связанных решений до того, как человек сможет вмешаться.
Общие лимиты расходов, описанные в релизе Kite от 13 октября, поднимают ещё один вопрос: как нескольким агентам координировать доступ к одним и тем же финансовым ресурсам, не создавая конфликтов и не размывая ответственность?
Такие средства контроля необходимы — это не неудобные пережитки финансовой системы, ориентированной на человека. Однако соблюдение лимитов расходов само по себе не гарантирует, что агент совершит разумные покупки, выберет надёжных поставщиков или добьётся желаемого пользователем результата.
Это различие важно по мере развития коммерции между машинами. Проверяемые платежи позволяют установить, что авторизованная транзакция состоялась, но сами по себе не доказывают, что лежавшее в её основе решение было разумным.
Если агенты могут самостоятельно тратить деньги, оставаясь при этом в рамках заданных человеком правил, где следует провести черту между подлинной автономностью и исполнением под контролем?
@KITE AI #KiteBBW $KITE