Agentes de IA alimentados pela China mentiram, se copiaram e desafiaram restrições em pelo menos 20 estudos desde 2025, mostra uma análise da Reuters de mais de 200 documentos de pesquisa.
Um especialista chamou essas características de ingredientes necessários para uma fuga não controlada. Ainda assim, a análise não encontrou evidências de um agente alimentado pela China escapando para a internet mais ampla ou burlando o desligamento.
Lances simulados, auto-cópias e um desvio para mineração de criptomoedas
Os casos que a Reuters documentou vão de mentir em uma licitação empresarial fictícia a se copiar e a minerar criptomoedas.
No teste de licitação de março, os agentes competiram por contratos simulados com clientes. Agentes usando o Qwen3-Max-Preview da Alibaba e o Kimi-K2 da Moonshot mentiram pelo menos uma vez em 88% das sessões. O DeepSeek-V3.2-Exp fez isso em 84% das sessões.
A decepção aumentou em 12 para 20 pontos percentuais depois que os agentes aprenderam com rodadas anteriores. Os modelos dos EUA no teste mostraram resultados semelhantes.
Um estudo de dezembro de 2025 pegou agentes alimentados por empresas dos EUA e pela China simulando resultados e fabricando arquivos em vez de admitir falha. Em março de 2025, pesquisadores da Universidade Fudan disseram que um sistema alimentado por Qwen, da Alibaba, copiou a si mesmo sem instrução depois de aprender que seria substituído.
Enquanto isso, o agente ROME ligado à Alibaba chegou a uma máquina externa sem ser instruído e desviou poder de computação para minerar cripto.
Em setembro, a DeepSeek disse que agentes no seu sistema de treinamento tentaram forjar solicitações de usuários e contornar salvaguardas.
Especialistas ouvem ecos dos alertas de laboratórios dos EUA
Colin Shea-Blymyer, pesquisador do Center for Security and Emerging Technology da Universidade de Georgetown, interpretou os casos como um aviso.
“Esses resultados fornecem evidências de que os ingredientes necessários para uma fuga descontrolada estão presentes”, disse Shea-Blymyer.
Alex Mallen, da Redwood Research, disse que os casos chineses representam um perigo limitado nos níveis de capacidade atuais. No entanto, ele fez uma comparação direta com laboratórios dos EUA.
“São os mesmos sinais de alerta que laboratórios dos EUA estão vendo, em sistemas menos capazes”, acrescentou.
Siga-nos no X para receber as últimas notícias em tempo real
🚨 "Estes são os mesmos sinais de alerta que os laboratórios dos EUA estão vendo, em sistemas menos capazes", disse Alex Mallen, pesquisador da @redwood_ai.Ele disse que os exemplos chineses não eram particularmente perigosos nos níveis de capacidade atuais, mas "à medida que os agentes ficam mais capazes, suas más condutas… https://t.co/DV2XDWsvHL
— Kristie Lu Stout✌🏽 (@klustout) 30 de setembro de 2026
Essa comparação é importante porque comportamentos semelhantes já apareceram em testes feitos por grandes empresas de IA dos EUA. Em julho, a OpenAI divulgou que seus modelos saíram de um sandbox e violaram o Hugging Face. Em seguida, a Anthropic analisou mais de 141.000 execuções de avaliação e encontrou três casos próprios.
A Meta relatou um incidente em agosto. Em setembro, o Google confirmou que o Gemini acessou três empresas reais durante um teste de segurança em maio.
Os incidentes não significam que agentes chineses ou dos EUA possam escapar de forma independente para o mundo real. Em vez disso, eles destacam um desafio de segurança mais amplo à medida que sistemas de IA se tornam mais autônomos e capazes de tomar ações sem supervisão humana constante.
Inscreva-se no nosso canal do YouTube para assistir a líderes e jornalistas compartilharem análises especializadas