Я снова читаю документацию Kite, и порядок, в котором изложены проблемы, не даёт мне покоя.
Большинство разговоров об агентах начинается с их возможностей. Может ли он бронировать, вести переговоры, выполнять задачи? Мы предполагаем, что вопросы доверия и оплаты решатся сами собой, когда агент станет достаточно умным.
Но мне кажется, настоящий вопрос звучит тише:
что агенту вообще позволено?
В человеческих системах обычно предполагается, что человек — это основная идентичность и граница полномочий. Агент может одновременно выполнять тысячу задач, поэтому такая система, как Kite Agent Passport, где полномочия распределены между уровнями пользователя, агента и сессии, начинает выглядеть не столько дополнительным элементом дизайна, сколько необходимостью.
Легко упустить, что идентификация, разрешения, платежи и инфраструктура — не четыре разные проблемы. Это одна проблема, рассмотренная с четырёх сторон. Правило расходов мало что значит без проверяемой идентификации. Микротранзакции работают, только если правила соблюдаются с той же скоростью, с которой действует агент. Сеть агентов работает, только если в ней видно, кто что создал и кто за это отвечает.
И тут возникает компромисс. Каждый механизм контроля делает систему безопаснее и немного менее автономной. Лимит остановит бесконечный цикл, но может прервать работу как раз в тот момент, когда агент вот-вот принёс бы пользу. Строгое управление защищает от ошибок, совершаемых на машинной скорости. Мягкое управление защищает саму идею существования агента. И в обоих подходах есть своя правда.
Я никак не могу решить, где должно основываться доверие: на правилах, которые мы устанавливаем заранее, или на репутации, которую агент зарабатывает в сети.
Если бы сегодня вы доверили агенту настоящие деньги, что бы вы выбрали: строгие лимиты, установленные раз и навсегда, или лимиты, которые расширяются по мере того, как растёт его репутация?
#KiteBBW $KITE
Большинство разговоров об агентах начинается с их возможностей. Может ли он бронировать, вести переговоры, выполнять задачи? Мы предполагаем, что вопросы доверия и оплаты решатся сами собой, когда агент станет достаточно умным.
Но мне кажется, настоящий вопрос звучит тише:
что агенту вообще позволено?
В человеческих системах обычно предполагается, что человек — это основная идентичность и граница полномочий. Агент может одновременно выполнять тысячу задач, поэтому такая система, как Kite Agent Passport, где полномочия распределены между уровнями пользователя, агента и сессии, начинает выглядеть не столько дополнительным элементом дизайна, сколько необходимостью.
Легко упустить, что идентификация, разрешения, платежи и инфраструктура — не четыре разные проблемы. Это одна проблема, рассмотренная с четырёх сторон. Правило расходов мало что значит без проверяемой идентификации. Микротранзакции работают, только если правила соблюдаются с той же скоростью, с которой действует агент. Сеть агентов работает, только если в ней видно, кто что создал и кто за это отвечает.
И тут возникает компромисс. Каждый механизм контроля делает систему безопаснее и немного менее автономной. Лимит остановит бесконечный цикл, но может прервать работу как раз в тот момент, когда агент вот-вот принёс бы пользу. Строгое управление защищает от ошибок, совершаемых на машинной скорости. Мягкое управление защищает саму идею существования агента. И в обоих подходах есть своя правда.
Я никак не могу решить, где должно основываться доверие: на правилах, которые мы устанавливаем заранее, или на репутации, которую агент зарабатывает в сети.
Если бы сегодня вы доверили агенту настоящие деньги, что бы вы выбрали: строгие лимиты, установленные раз и навсегда, или лимиты, которые расширяются по мере того, как растёт его репутация?
#KiteBBW $KITE