Uma lavanderia self-service funcionando de madrugada, esperando a secagem, enquanto ao lado um cara de programação fica olhando o notebook e digitando, xingando as políticas de conformidade que a empresa acabou de lançar. Diz que todas as solicitações que os Agents fazem para a OpenAI precisam passar pelo agente de auditoria interna, e que cada prompt vai ser varrido pelo sistema de controle de risco. Eu, vendo tudo através de duas secadoras, pego o cara puxando o próprio cabelo e penso: se ele soubesse que a Veil foi enviada em 16 de junho de @OpenGradient , ele não precisaria ficar acordado até agora.
Quando ouvi pela primeira vez, torci a boca. Mais uma ferramenta de desenvolvimento que se diz priorizar a privacidade; tem várias por aí. Mas, quando desmontei e examinei, descobri que o conjunto OpenGradient Veil foi mesmo feito para economizar “vida” do desenvolvedor. É um agente de IA que roda localmente, fica de olho ao lado do seu Agent e mantém cada prompt privado e verificável. Qualquer Agent compatível com OpenAI só precisa mudar uma variável de ambiente para se conectar: sem mexer em código, em cinco minutos dá para migrar suavemente da arquitetura original para um fluxo que não fica logado na nuvem. $G
O mecanismo central se chama Oblivious: separa completamente quem você é e o que você pergunta. Em modelos SaaS tradicionais, sua API key, IP e body da requisição ficam acoplados; a nuvem consegue ver, à primeira vista, o que aquele cliente está perguntando. A Veil separa isso localmente: o modelo “upstream” só sabe que existe uma requisição legítima, mas não sabe qual empresa nem qual Agent, e muito menos o conteúdo do prompt. Esse desacoplamento de identidade vale mais do que as promessas de privacidade para o público final.
Mas não bata palma cedo demais. Ter mais um proxy local significa mais uma camada de latência; e chamadas frequentes no fluxo do Agent podem tornar tudo indisponível? Se o caminho de compatibilidade OpenAI-compatible também cobrir Anthropic e Gemini, ainda dá para integrar sem mudar nada? Com o mecanismo Oblivious, quando dá erro, depurar vira uma caixa-preta. Como o DevOps vai localizar falhas em produção? $TNSR
Na semana que vem, planejo fazer um PoC em um Agent interno da empresa. Vou trocar o upstream de OpenAI para Veil, medindo média de latência, taxa de erro e logs de auditoria de conformidade, para ver se aquela história de “cinco minutos para conectar” tem mesmo fundamento.
As secadoras da lavanderia self-service ainda zumbem. O cara ao lado fecha o notebook, suspira e enfia o rosto nos joelhos. Afinal, hoje em dia quem escreve código não está cansado de escrever código: está exausto de pensar, por conta do chefe, se cada linha de código vai fazer a empresa virar alvo de cobrança por conformidade.
Terminou de escrever, é como se tivesse conversado. Mas antes de realmente pôr a mão na massa, pense de novo.
#opg $OPG