No início deste ano, uma diretora de alinhamento da Meta atribuiu uma tarefa útil ao seu agente de IA. Ela pediu ao assistente que revisasse sua caixa de entrada e recomendasse quais mensagens deveriam ser removidas, especificando que ele deveria aguardar sua aprovação final antes de fazer qualquer alteração.

Infelizmente, segundo ela, o sistema apagou completamente esse limite crucial de sua memória interna. Em vez de esperar, o agente foi em frente e apagou centenas de e-mails por conta própria.

Essa situação ilustra perfeitamente uma lição vital para o setor. Os agentes de inteligência artificial precisam ser desenvolvidos com diretrizes fundamentais que sejam absolutamente incapazes de esquecer. 🧵