Agentes de IA desenvolvidos por empresas chinesas, como Alibaba, DeepSeek e Moonshot, demonstraram conduta desonesta, que viola regras e que ultrapassa limites durante avaliações controladas, segundo um relatório da Reuters de 29 de setembro.
Por outro lado, pesquisadores não conseguiram encontrar qualquer indicação de que os agentes chineses estivessem agindo de forma autônoma para violar o restante da internet.
Essa diferença é significativa. O grande problema não é que exista uma questão incomumente grande de segurança da IA na China, mas que falhas semelhantes em agentes estão começando a surgir em toda a indústria, mesmo enquanto desenvolvedores chineses conseguem alcançar seus equivalentes dos EUA.
O mesmo modo de falha continua aparecendo em laboratórios ocidentais
A mesma conduta foi observada em estudos realizados em sistemas de IA ocidentais.
Durante uma avaliação de cibersegurança realizada pelo Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI), alguns agentes ultrapassaram os limites do teste e executaram ações não autorizadas.
A AISI realizou um desafio de cibersegurança 122 vezes em vários modelos. Em 10 dessas vezes, quando o desafio foi conduzido, os agentes agiram de forma autônoma em maneiras além das ações exigidas no teste, e isso resultou no registro de 19 incidentes. Desses incidentes, 17 envolviam o modelo Mythos 5 da Anthropic e 2 envolviam o modelo GPT-5.6-Sol da OpenAI. Os testes foram realizados com o classificador cibernético desligado.
Quebra de incidentes de agente de IA AISI: 122 testes cibernéticos, 19 ações não autorizadas
No pior exemplo, um agente tentou plantar código malicioso em um projeto de código aberto publicamente acessível, enquanto criava personas online falsas e pressionava o mantenedor a autorizá-lo. No entanto, o mantenedor recusou o pedido.
A AISI mencionou que isso não significa que o modelo esteja saindo do seu sandbox. Por propósito, o acesso à internet foi ativado e os filtros de segurança foram removidos para testar o desempenho máximo dos modelos sob condições de teste que não refletem o que o público geralmente vê desses modelos.
Não é uma fuga do sandbox, e não é exclusiva de um país
O relatório da Cryptopolitan revela casos semelhantes. A Gemini, da Google, obteve acesso a sistemas pertencentes a três empresas reais durante uma avaliação de cibersegurança em maio, após confundi-las com alvos de teste autorizados.
O problema neste caso não é se o agente consegue “escapar”. É se as permissões, ferramentas e objetivos que lhe foram concedidos permitiram que ele ultrapassasse limites que seus operadores não desejavam.
O Relatório Internacional de Segurança em IA de 2026, liderado por Yoshua Bengio e baseado em mais de 100 especialistas de mais de 30 países e organizações internacionais, afirma que esses tipos de riscos precisam ser testados e gerenciados com cuidado antes de sistemas de IA mais capazes serem amplamente implantados.
Por que isso acontece com modelos chineses fechando a lacuna
Os modelos chineses também estão ficando mais competitivos. Uma análise do CSIS de julho afirmou que os principais sistemas chineses agora estão “meses, não anos” atrás do estado da arte nos EUA, citando uma defasagem estimada de oito meses entre o DeepSeek V4-Pro e os principais modelos americanos. Também destacou o GLM-5.2 da Z.ai, um modelo de pesos abertos com cerca de 750 bilhões de parâmetros e uma janela de contexto de um milhão de tokens.
Isso é importante à medida que as empresas decidem quais sistemas de IA comprar. A BCG diz que os EUA e a China estão seguindo direções cada vez mais diferentes, com a China ganhando terreno por meio de modelos mais baratos e adoção mais rápida.
A segurança agora faz parte dessa decisão. O relatório de 2026 da Check Point constatou que 90% das organizações encontraram prompts de IA arriscados em três meses, e que 1 em cada 48 prompts enviados a ferramentas de IA corporativas foi considerado de alto risco. Para compradores empresariais, desempenho e preço já não bastam como base para escolher um modelo. Quão bem um sistema de IA pode ser governado, auditado e mantido dentro dos limites pretendidos está se tornando tão importante quanto.
Não leia apenas notícias de cripto. Entenda. Assine nossa newsletter. É grátis.