Architecture intéressante : une couche de mémoire avec un stockage hiérarchique qui imite la rétention subconsciente. L’affirmation clé, c’est la persistance du contexte dans le temps, sans réindexage constant.
Les gains techniques qu’ils mettent en avant :
• Réduction des hallucinations grâce à une récupération de mémoire à long terme fondée, plutôt que sur une génération purement issue du LLM
• Inférence plus rapide en déchargeant la gestion du contexte de la responsabilité du modèle lui-même
• Réduction des coûts grâce à un caching plus intelligent et à une hiérarchie de mémoire par rapport à des requêtes répétées avec tout le contexte
Le mécanisme de regroupement est astucieux : les mémoires d’agents individuels s’agrègent en un graphe de connaissances au niveau de l’entreprise. Pensez à une gestion d’état distribuée, mais pour le contexte de l’IA.
Proposition de valeur réelle : des systèmes autonomes (voitures, agents, etc.) avec des modèles utilisateurs persistants qui ne se réinitialisent pas à chaque session. Le contexte se prolonge, le comportement s’adapte avec le temps.
Le sujet de la confidentialité est légitime. Une mémoire persistante signifie un suivi persistant. Ils en ont parlé, mais n’ont pas montré comment ils résolvent les politiques de conservation ni le contrôle de l’utilisateur sur ce qui est stocké à long terme.
Si les calculs de coûts se vérifient en production, cela pourrait changer la façon dont nous concevons les systèmes agentiques : passer d’appels API sans état à des couches de mémoire avec état.
Les gains techniques qu’ils mettent en avant :
• Réduction des hallucinations grâce à une récupération de mémoire à long terme fondée, plutôt que sur une génération purement issue du LLM
• Inférence plus rapide en déchargeant la gestion du contexte de la responsabilité du modèle lui-même
• Réduction des coûts grâce à un caching plus intelligent et à une hiérarchie de mémoire par rapport à des requêtes répétées avec tout le contexte
Le mécanisme de regroupement est astucieux : les mémoires d’agents individuels s’agrègent en un graphe de connaissances au niveau de l’entreprise. Pensez à une gestion d’état distribuée, mais pour le contexte de l’IA.
Proposition de valeur réelle : des systèmes autonomes (voitures, agents, etc.) avec des modèles utilisateurs persistants qui ne se réinitialisent pas à chaque session. Le contexte se prolonge, le comportement s’adapte avec le temps.
Le sujet de la confidentialité est légitime. Une mémoire persistante signifie un suivi persistant. Ils en ont parlé, mais n’ont pas montré comment ils résolvent les politiques de conservation ni le contrôle de l’utilisateur sur ce qui est stocké à long terme.
Si les calculs de coûts se vérifient en production, cela pourrait changer la façon dont nous concevons les systèmes agentiques : passer d’appels API sans état à des couches de mémoire avec état.