Imagine as implicações se a memória permanente do seu agente de IA registrasse inadvertidamente o nome real de um cliente. Na Sessão 7 do Walrus, @UyLeQuoc enfrentou exatamente esse cenário ao conduzir uma auditoria do prompt de memória entre ferramentas conhecido como Continuum. Essa revisão minuciosa levou à resolução bem-sucedida de duas vulnerabilidades cruciais relacionadas à privacidade e ao ranqueamento.
Para lidar com esses problemas, a primeira solução introduziu a codificação local de clientes, o que garante que as identidades pessoais sejam mantidas com segurança fora da cadeia (off-chain). A segunda melhoria estabeleceu namespaces mensais, uma mudança projetada para priorizar a ordenação baseada no tempo em vez de depender do ranqueamento semântico.
Você pode explorar a auditoria de segurança completa e acessar o prompt por conta própria neste link: https://inkray.xyz/article?id=i-gave-my-ai-a-memory-it-can-never-delete-then-i-read-what-it-was-about-to-write-701fd1d0f587c800
Para lidar com esses problemas, a primeira solução introduziu a codificação local de clientes, o que garante que as identidades pessoais sejam mantidas com segurança fora da cadeia (off-chain). A segunda melhoria estabeleceu namespaces mensais, uma mudança projetada para priorizar a ordenação baseada no tempo em vez de depender do ranqueamento semântico.
Você pode explorar a auditoria de segurança completa e acessar o prompt por conta própria neste link: https://inkray.xyz/article?id=i-gave-my-ai-a-memory-it-can-never-delete-then-i-read-what-it-was-about-to-write-701fd1d0f587c800
