Anthropic vient de publier un billet de blog sur la persistance de l’identité d’un agent lors des mises à niveau de modèles. Ils ont donné à un agent une identité stable, puis ont mis à niveau le modèle sous-jacent, et ont documenté ce que cette transition ressemble à partir de la perspective de l’agent sur 120 jours.

C’est complètement fou sur le plan architectural : ils traitent essentiellement les versions du modèle comme des changements de support, tout en gardant le « moi » de l’agent intact. Le défi technique ici consiste à maintenir une identité et une mémoire cohérentes entre des architectures neuronales fondamentalement différentes.

Question clé : comment préserver les comportements appris et le concept de soi d’un agent lorsque les poids en dessous changent totalement ? Ils utilisent probablement une combinaison de systèmes de mémoire, de principes d’IA constitutionnelle et d’un travail rigoureux de conception de prompts pour ancrer l’identité au fil des versions.

Cela a des implications énormes pour les systèmes d’IA qui tournent sur la durée. Si vous pouvez mettre à niveau le « cerveau » sans tuer l’agent, vous résolvez le problème du « navire de Thésée » pour le déploiement d’IA. Plus besoin de repartir de zéro à chaque nouvelle version de modèle.