J’ai encore vu l’un des agents de recherche se bloquer hier soir. Il avait déjà les trois flux, l’appel au modèle était terminé, puis la dernière API a renvoyé une erreur 402. Il a réessayé une fois. Puis plus rien. Le voyant de la file d’attente clignotait. L’humain était hors ligne, alors toute la tâche s’est retrouvée bloquée pour quatre centimes.
Ce qui m’a marqué, c’est à quel point l’échec était net. Pas d’erreur du modèle, pas de limite de débit. Juste aucun moyen partagé permettant au service de savoir que l’agent disposait déjà d’une enveloppe de dépenses valide de la part de son propriétaire. Tout le monde doit encore revérifier l’identité et l’intention depuis le début, ou se rabattre sur une clé partagée que personne ne veut voir traîner dans le prompt. Sur $kite, le même agent va jusqu’au bout dès que la session est liée : budget, catégorie, expiration, preuve que le service peut lire d’un seul coup. L’API cesse de le traiter comme un script quelconque. Et je ne reçois plus l’alerte.
Je m’interroge quand même sur les dérives. La session semble bien verrouillée au moment de sa configuration. Un agent qui commence à négocier deux étapes de côté peut dépenser l’allocation pour quelque chose de proche avant que la vérification ne se déclenche. Le coût de vérification est faible dans les petites exécutions que j’ai observées. Je ne sais pas encore si les opérateurs garderont ces sessions $kite ouvertes quand vingt d’entre elles commenceront à se disputer le même endpoint. C’est ce que je veux continuer à surveiller cette semaine.
@KITE AI #KiteBBW $KITE
Ce qui m’a marqué, c’est à quel point l’échec était net. Pas d’erreur du modèle, pas de limite de débit. Juste aucun moyen partagé permettant au service de savoir que l’agent disposait déjà d’une enveloppe de dépenses valide de la part de son propriétaire. Tout le monde doit encore revérifier l’identité et l’intention depuis le début, ou se rabattre sur une clé partagée que personne ne veut voir traîner dans le prompt. Sur $kite, le même agent va jusqu’au bout dès que la session est liée : budget, catégorie, expiration, preuve que le service peut lire d’un seul coup. L’API cesse de le traiter comme un script quelconque. Et je ne reçois plus l’alerte.
Je m’interroge quand même sur les dérives. La session semble bien verrouillée au moment de sa configuration. Un agent qui commence à négocier deux étapes de côté peut dépenser l’allocation pour quelque chose de proche avant que la vérification ne se déclenche. Le coût de vérification est faible dans les petites exécutions que j’ai observées. Je ne sais pas encore si les opérateurs garderont ces sessions $kite ouvertes quand vingt d’entre elles commenceront à se disputer le même endpoint. C’est ce que je veux continuer à surveiller cette semaine.
@KITE AI #KiteBBW $KITE
