Я снова и снова возвращаюсь к различию, которое легко упустить из виду в экономике агентов: знать, какой ИИ-агент действует, — не то же самое, что знать, что ему следует разрешить делать.

Passport от Kite и модель делегирования разрешений подходят к этому вопросу с разных сторон. Идентификация помогает установить, от чьего имени действует агент, а разрешения с ограниченной областью действия и средства управления сеансами позволяют ограничить его полномочия. Это разделение важно. Агенту может понадобиться разрешение на выполнение одной задачи, но это не значит, что ему нужно предоставлять широкий и постоянный доступ ко всему, что за ней стоит.

Это разумное направление для проектирования, но более сложный вопрос возникает, когда задача меняется. Разрешение, уместное вначале, может оказаться слишком широким, слишком узким или просто неподходящим по мере того, как агент проходит рабочий процесс. Срок действия и отзыв разрешений помогают, но сами по себе не гарантируют, что каждое решение о выдаче разрешения будет правильным.

Думаю, именно здесь инфраструктура агентов становится особенно интересной. Автономность — это не просто возможность позволить программам действовать, не дожидаясь нас. Это определение границ, которые остаются разумными, даже когда мы не следим за каждым шагом.

Что бы вы предпочли: предоставить агенту широкие полномочия ради удобства или ограничить его разрешения, но при этом тщательнее контролировать их??

#KiteBBW $KITE