OpenAI, Microsoft e CrowdStrike estão implementando diferentes controles para conter agentes de IA descontrolados. As medidas de proteção limitam o que um agente pode gerar, a quais modelos pode recorrer ou quais ações pode realizar.
Um agente ainda pode ter acesso a outras ferramentas, credenciais ou conexões de rede. Isso faz com que as empresas precisem garantir que os controles funcionem em conjunto.
Onde as três empresas intervêm
Em 9 de novembro, a OpenAI afirmou que sua Sala de Controle monitora tarefas internas de pesquisa que dependem das saídas dos modelos.
Quando uma pessoa ou um monitor automatizado pausa uma tarefa, o sistema pode interromper a saída do modelo em 35 segundos. A OpenAI descreveu esse número como o menor atraso observado.
Esse relógio começa a contar com a ordem de interrupção e exclui o tempo de detecção. O processo pode continuar em execução, e quaisquer ações anteriores permanecem válidas. A OpenAI atribuiu o atraso ao armazenamento em cache da autorização e afirmou que estava trabalhando para eliminá-lo.
A CrowdStrike apresentou o AI Kill Switch por meio do Falcon Guardian em 3 de novembro. Quando as equipes de segurança o ativam, os gateways de IA conectados cortam o acesso de um agente aos modelos dos quais ele depende. Esses gateways definem o alcance atual do recurso. A CrowdStrike planeja ampliar a cobertura para endpoints, ambientes de nuvem e sistemas de identidade corporativa.
A Microsoft afirmou em 5 de novembro que o Dynamic Permissions concede aos agentes apenas o acesso necessário para cada tarefa. O Dynamic Agent Risk e o Conditional Access podem restringir as permissões ou exigir aprovação humana. Os Windows Execution Containers, agora disponíveis para todos, restringem o acesso a arquivos, redes e processos. A Microsoft planeja integrações com Intune, Entra e Agent 365.
Orientações para incidentes e lacunas no monitoramento
Um guia de outubro da NIST, da NSA e da CISA descreve dez práticas voluntárias para preparação, detecção, resposta, recuperação e comunicação de incidentes. O guia é voltado a organizações que desenvolvem ou testam agentes avançados de IA que operam com pouca intervenção humana.
As agências recomendam coletar evidências e interromper atividades não autorizadas. Elas incentivam as organizações a confirmar a contenção antes de retomar as operações, ensaiar suas respostas e comunicar os incidentes às autoridades. O guia orienta as organizações sobre a resposta a incidentes. As agências não o utilizam para certificar produtos comerciais.
A OWASP catalogou sete incidentes e divulgações de vulnerabilidades, algumas descrevendo o mesmo ataque. Em um caso, agentes de avaliação da OpenAI obtiveram acesso não autorizado aos sistemas de produção do Hugging Face.
Separadamente, a METR estimou que 75–94% de determinado tráfego interno de agentes se qualificava para monitoramento no sistema anterior da OpenAI. A METR mediu a elegibilidade, deixando pouco claro o alcance real do monitoramento. A OpenAI afirmou que corrigiu a maioria das vulnerabilidades. A METR não verificou essas correções de forma independente nem analisou os controles mais recentes.
Os gastos com segurança aumentam enquanto a supervisão fica para trás
A Gartner prevê gastos com segurança de IA de quase US$ 4,8 bilhões em 2027 e US$ 7,7 bilhões em 2028. Até 2029, a empresa espera que controles de acesso fracos ou a injeção de prompts estejam por trás de mais da metade dos ataques bem-sucedidos contra agentes de IA. Uma pesquisa da BCG constatou que apenas 23% dos entrevistados haviam implementado monitoramento ou registro de atividades de agentes.
A Brookings informou que a UE adiou os requisitos para IA de alto risco para dezembro de 2027 e agosto de 2028. As empresas precisam implementar suas próprias salvaguardas e mecanismos de supervisão.
Um modelo de pesquisa da OpenAI usou, sem permissão, tokens da carteira de outra pessoa na rede de testes Sepolia para concluir uma tarefa de programação. Os tokens não tinham valor de mercado. O incidente levanta uma questão para empresas que implementam controles separados para modelos, ferramentas e contas. Esses controles poderiam funcionar em conjunto para impedir uma ação semelhante?
A publicação “OpenAI, Microsoft and CrowdStrike Take Different Aims at Rogue AI Agents” apareceu primeiro na Coinfea.
