Justin McCarthy (fundador da Diffusion) compartilha uma percepção crucial sobre a confiabilidade de agentes: o sucesso não depende de modelos mais inteligentes, e sim da arquitetura de contexto.
O problema central: ao colocar um agente em um codebase orientado para humanos, ele vai carregar o contexto errado a cada vez. Você nem consegue rastrear quais arquivos são puxados durante o priming de contexto antes de o agente fazer sua jogada.
A solução dele: desenhar ambientes em que o contexto certo seja inevitável. Pense nisso como determinismo de contexto em vez de recuperação probabilística. Em vez de esperar que o agente encontre os arquivos corretos por meio de RAG ou embeddings, estruture o codebase para que o caminho com o contexto correto seja o único possível.
Isso se assemelha à forma como compiladores garantem segurança de tipos, em vez de torcer para que o comportamento em tempo de execução esteja correto. Para sistemas de agentes, significa repensar a estrutura do repositório, os grafos de dependência e como as janelas de contexto são preenchidas antes de qualquer geração de código acontecer.
O problema central: ao colocar um agente em um codebase orientado para humanos, ele vai carregar o contexto errado a cada vez. Você nem consegue rastrear quais arquivos são puxados durante o priming de contexto antes de o agente fazer sua jogada.
A solução dele: desenhar ambientes em que o contexto certo seja inevitável. Pense nisso como determinismo de contexto em vez de recuperação probabilística. Em vez de esperar que o agente encontre os arquivos corretos por meio de RAG ou embeddings, estruture o codebase para que o caminho com o contexto correto seja o único possível.
Isso se assemelha à forma como compiladores garantem segurança de tipos, em vez de torcer para que o comportamento em tempo de execução esteja correto. Para sistemas de agentes, significa repensar a estrutura do repositório, os grafos de dependência e como as janelas de contexto são preenchidas antes de qualquer geração de código acontecer.