Прошлой ночью я снова наблюдал, как один из исследовательских агентов завис. Три фида уже были подключены, вызов модели выполнен, а последний API вернул 402. Повторили запрос один раз. И всё — завис. Только индикатор очереди мигал. Человек был не в сети, поэтому вся задача застопорилась из-за четырёх центов.
Больше всего меня зацепило, насколько чисто всё сломалось. Ни ошибки модели, ни ограничения частоты запросов. Просто у сервиса не было общего способа понять, что агент уже получил от владельца действительный лимит расходов. Всем по-прежнему приходится заново проверять личность и намерения либо переходить на какой-то общий ключ, который никто не хочет помещать в промпт. На $kite тот же агент завершает задачу, если сессия привязана к бюджету, категории, сроку действия и подтверждению, которые сервис может прочитать за один раз. API перестаёт считать его случайным скриптом. А мне больше не приходит уведомление.
Но меня всё же беспокоит возможный дрейф. При настройке сессия выглядит надёжно. Агент, который начинает вести переговоры на пару шагов в сторону, может потратить лимит на что-то смежное, прежде чем сработает проверка. Судя по небольшим запускам, которые я видел, проверка обходится недорого. Пока неясно, будут ли операторы оставлять сессии $kite открытыми, когда двадцать таких агентов начнут бороться за один и тот же эндпоинт. Вот за чем я хочу понаблюдать на этой неделе.
@KITE AI #KiteBBW $KITE
Больше всего меня зацепило, насколько чисто всё сломалось. Ни ошибки модели, ни ограничения частоты запросов. Просто у сервиса не было общего способа понять, что агент уже получил от владельца действительный лимит расходов. Всем по-прежнему приходится заново проверять личность и намерения либо переходить на какой-то общий ключ, который никто не хочет помещать в промпт. На $kite тот же агент завершает задачу, если сессия привязана к бюджету, категории, сроку действия и подтверждению, которые сервис может прочитать за один раз. API перестаёт считать его случайным скриптом. А мне больше не приходит уведомление.
Но меня всё же беспокоит возможный дрейф. При настройке сессия выглядит надёжно. Агент, который начинает вести переговоры на пару шагов в сторону, может потратить лимит на что-то смежное, прежде чем сработает проверка. Судя по небольшим запускам, которые я видел, проверка обходится недорого. Пока неясно, будут ли операторы оставлять сессии $kite открытыми, когда двадцать таких агентов начнут бороться за один и тот же эндпоинт. Вот за чем я хочу понаблюдать на этой неделе.
@KITE AI #KiteBBW $KITE
