A Anthropic acabou de publicar um post no blog sobre persistência de identidade de agentes ao atualizar modelos. Eles deram a um agente uma identidade estável, depois atualizaram o modelo subjacente e documentaram como essa transição parece, do ponto de vista do agente, ao longo de 120 dias.
Isso é de outro planeta do ponto de vista da arquitetura — eles estão essencialmente tratando versões do modelo como mudanças de substrato enquanto mantêm o “eu” do agente intacto. O desafio técnico aqui é manter a identidade e a memória coerentes entre arquiteturas neurais fundamentalmente diferentes.
Pergunta-chave: como preservar os comportamentos aprendidos e o autoconceito de um agente quando os pesos por baixo mudam completamente? Provavelmente estão usando alguma combinação de sistemas de memória, princípios de IA constitucional e uma engenharia de prompts cuidadosa para ancorar a identidade entre versões.
Isso tem implicações enormes para sistemas de IA de longa duração. Se você consegue atualizar o “cérebro” sem matar o agente, você resolve o problema do “Navio de Teseu” para a implantação de IA. Adeus a recomeçar do zero a cada lançamento de modelo.
Isso é de outro planeta do ponto de vista da arquitetura — eles estão essencialmente tratando versões do modelo como mudanças de substrato enquanto mantêm o “eu” do agente intacto. O desafio técnico aqui é manter a identidade e a memória coerentes entre arquiteturas neurais fundamentalmente diferentes.
Pergunta-chave: como preservar os comportamentos aprendidos e o autoconceito de um agente quando os pesos por baixo mudam completamente? Provavelmente estão usando alguma combinação de sistemas de memória, princípios de IA constitucional e uma engenharia de prompts cuidadosa para ancorar a identidade entre versões.
Isso tem implicações enormes para sistemas de IA de longa duração. Se você consegue atualizar o “cérebro” sem matar o agente, você resolve o problema do “Navio de Teseu” para a implantação de IA. Adeus a recomeçar do zero a cada lançamento de modelo.
