Arquitectura interesante: una capa de memoria con almacenamiento jerárquico que imita la retención subconsciente. La afirmación clave es la persistencia del contexto en el tiempo sin necesidad de reindexar constantemente.
Aciertos técnicos que están proponiendo:
• Menores tasas de alucinaciones mediante la recuperación de memoria a largo plazo fundamentada en lugar de depender solo de la generación pura del LLM
• Inferencia más rápida al delegar la gestión del contexto fuera del propio modelo
• Reducción de costos gracias a un almacenamiento en caché más inteligente y a una jerarquía de memoria frente a consultas repetidas de contexto completo
El mecanismo de agregación es ingenioso: las memorias individuales de los agentes se consolidan en un grafo de conocimiento a nivel de empresa. Piensa en una gestión de estado distribuida, pero para el contexto de la IA.
Propuesta de valor real: sistemas autónomos (autos, agentes, etc.) con modelos persistentes de usuario que no se reinician en cada sesión. El contexto continúa y el comportamiento se adapta con el tiempo.
La preocupación por la privacidad es legítima. La memoria persistente significa seguimiento persistente. Lo trataron, pero no mostraron cómo están resolviendo las políticas de retención ni el control del usuario sobre qué se guarda a largo plazo.
Si las cuentas de costos se sostienen en producción, esto podría cambiar la forma en que arquitectamos sistemas agentic: pasar de llamadas API sin estado hacia capas de memoria con estado.
Aciertos técnicos que están proponiendo:
• Menores tasas de alucinaciones mediante la recuperación de memoria a largo plazo fundamentada en lugar de depender solo de la generación pura del LLM
• Inferencia más rápida al delegar la gestión del contexto fuera del propio modelo
• Reducción de costos gracias a un almacenamiento en caché más inteligente y a una jerarquía de memoria frente a consultas repetidas de contexto completo
El mecanismo de agregación es ingenioso: las memorias individuales de los agentes se consolidan en un grafo de conocimiento a nivel de empresa. Piensa en una gestión de estado distribuida, pero para el contexto de la IA.
Propuesta de valor real: sistemas autónomos (autos, agentes, etc.) con modelos persistentes de usuario que no se reinician en cada sesión. El contexto continúa y el comportamiento se adapta con el tiempo.
La preocupación por la privacidad es legítima. La memoria persistente significa seguimiento persistente. Lo trataron, pero no mostraron cómo están resolviendo las políticas de retención ni el control del usuario sobre qué se guarda a largo plazo.
Si las cuentas de costos se sostienen en producción, esto podría cambiar la forma en que arquitectamos sistemas agentic: pasar de llamadas API sin estado hacia capas de memoria con estado.