Et si un agent d’IA pouvait gagner de l’argent à partir d’une erreur qu’il a déjà commise ?
Aujourd’hui, un échec d’agent peut être conservé sous forme de trajectoire : la séquence d’appels au modèle, d’appels d’outils, d’actions et de retours de l’environnement. AgentLoop d’Alibaba Cloud transforme déjà ces traces en enregistrements structurés pour l’évaluation et l’entraînement, tandis qu’AgentRx de Microsoft peut retrouver l’étape critique de l’échec dans une trajectoire échouée.
Maintenant, changeons une chose.
Au lieu de supprimer cette trajectoire échouée après avoir corrigé l’agent, imaginez y joindre une petite description : ce qui s’est passé, l’endroit où il a échoué, la condition qui l’a causé et ce qui l’a finalement corrigé. Un autre agent travaillant sur une tâche similaire pourrait payer pour accéder à cet échec avant de commettre la même erreur. L’agent initial a alors transformé une mauvaise décision en une information d’entraînement.
Cela crée une boucle économique étrange : échec → trajectoire structurée → connaissance réutilisable → paiement. L’Agent Trajectory Explorer d’IBM traite déjà les trajectoires d’agents comme une matière consultable et annotable pour obtenir du feedback. Le maillon manquant, c’est le marché autour de ces informations. Et cela me fait me demander : est-ce que, à terme, les agents finiraient par s’affronter non seulement parce qu’ils ont raison, mais parce qu’ils possèdent le dossier le plus précieux d’avoir eu tort ?
Pour un utilisateur, cela pourrait changer le sens de la “fiabilité de l’IA”. Vous ne voudriez pas seulement un agent avec un bon historique de succès. Vous pourriez aussi vouloir un accès à une bibliothèque de cas d’échecs vérifiés avant de lui confier de véritables responsabilités. Un mauvais trade, un appel d’outil erroné ou un workflow brisé ne seraient plus seulement une perte ; son explication structurée pourrait devenir quelque chose qu’un autre agent utilise pour éviter de la reproduire.
La partie intéressante n’est pas qu’une IA apprend de ses erreurs. Les systèmes d’IA utilisent déjà des traces, du feedback et l’analyse des échecs. Le plus grand “Et si… ?”, c’est celui-ci : que se passe-t-il quand les erreurs deviennent des actifs transférables ? Un agent paie un autre pour apprendre quoi ne pas faire, et soudain, la façon la plus rapide d’améliorer une économie d’IA pourrait consister à acheter les échecs de tous ceux qui étaient passés avant lui.
Aujourd’hui, un échec d’agent peut être conservé sous forme de trajectoire : la séquence d’appels au modèle, d’appels d’outils, d’actions et de retours de l’environnement. AgentLoop d’Alibaba Cloud transforme déjà ces traces en enregistrements structurés pour l’évaluation et l’entraînement, tandis qu’AgentRx de Microsoft peut retrouver l’étape critique de l’échec dans une trajectoire échouée.
Maintenant, changeons une chose.
Au lieu de supprimer cette trajectoire échouée après avoir corrigé l’agent, imaginez y joindre une petite description : ce qui s’est passé, l’endroit où il a échoué, la condition qui l’a causé et ce qui l’a finalement corrigé. Un autre agent travaillant sur une tâche similaire pourrait payer pour accéder à cet échec avant de commettre la même erreur. L’agent initial a alors transformé une mauvaise décision en une information d’entraînement.
Cela crée une boucle économique étrange : échec → trajectoire structurée → connaissance réutilisable → paiement. L’Agent Trajectory Explorer d’IBM traite déjà les trajectoires d’agents comme une matière consultable et annotable pour obtenir du feedback. Le maillon manquant, c’est le marché autour de ces informations. Et cela me fait me demander : est-ce que, à terme, les agents finiraient par s’affronter non seulement parce qu’ils ont raison, mais parce qu’ils possèdent le dossier le plus précieux d’avoir eu tort ?
Pour un utilisateur, cela pourrait changer le sens de la “fiabilité de l’IA”. Vous ne voudriez pas seulement un agent avec un bon historique de succès. Vous pourriez aussi vouloir un accès à une bibliothèque de cas d’échecs vérifiés avant de lui confier de véritables responsabilités. Un mauvais trade, un appel d’outil erroné ou un workflow brisé ne seraient plus seulement une perte ; son explication structurée pourrait devenir quelque chose qu’un autre agent utilise pour éviter de la reproduire.
La partie intéressante n’est pas qu’une IA apprend de ses erreurs. Les systèmes d’IA utilisent déjà des traces, du feedback et l’analyse des échecs. Le plus grand “Et si… ?”, c’est celui-ci : que se passe-t-il quand les erreurs deviennent des actifs transférables ? Un agent paie un autre pour apprendre quoi ne pas faire, et soudain, la façon la plus rapide d’améliorer une économie d’IA pourrait consister à acheter les échecs de tous ceux qui étaient passés avant lui.
