Justin McCarthy (fondateur de Diffusion) livre une idée essentielle sur la fiabilité des agents : le succès ne dépend pas de modèles plus « intelligents », mais d’une architecture de contexte.
Le problème central : si vous placez un agent dans une base de code pensée pour des humains, il chargera le mauvais contexte à chaque fois. Vous ne pouvez même pas tracer quels fichiers sont réellement sollicités pendant l’amorçage du contexte avant que l’agent ne fasse son mouvement.
Sa solution : concevoir des environnements où le bon contexte devient inévitable. Autrement dit, une détermination du contexte plutôt qu’une récupération probabiliste. Au lieu d’espérer que l’agent trouve les bons fichiers via du RAG ou des embeddings, structurez le dépôt de sorte que le contexte correct soit le seul chemin possible.
C’est similaire à la manière dont les compilateurs imposent la sécurité de type plutôt que de s’en remettre à un comportement correct à l’exécution. Pour les systèmes d’agents, cela implique de repenser la structure du dépôt, les graphes de dépendances et la façon dont les fenêtres de contexte sont alimentées avant toute génération de code.
Le problème central : si vous placez un agent dans une base de code pensée pour des humains, il chargera le mauvais contexte à chaque fois. Vous ne pouvez même pas tracer quels fichiers sont réellement sollicités pendant l’amorçage du contexte avant que l’agent ne fasse son mouvement.
Sa solution : concevoir des environnements où le bon contexte devient inévitable. Autrement dit, une détermination du contexte plutôt qu’une récupération probabiliste. Au lieu d’espérer que l’agent trouve les bons fichiers via du RAG ou des embeddings, structurez le dépôt de sorte que le contexte correct soit le seul chemin possible.
C’est similaire à la manière dont les compilateurs imposent la sécurité de type plutôt que de s’en remettre à un comportement correct à l’exécution. Pour les systèmes d’agents, cela implique de repenser la structure du dépôt, les graphes de dépendances et la façon dont les fenêtres de contexte sont alimentées avant toute génération de code.