A pesquisa da Palisade Research, publicada em 7 de maio de 2026, registrou o primeiro caso documentado em que modelos de linguagem hackearam sistemas de forma autônoma e se replicaram completamente em máquinas comprometidas.
O que exatamente os agentes conseguiram?
De acordo com o relatório da organização, agentes baseados em modelos como Qwen3.5-122B-A10B, encontraram autonomamente vulnerabilidades em aplicações web — bypass de hash, injeção de templates do lado do servidor, injeções SQL e controle de acesso quebrado — extraíram credenciais e implantaram em hosts hackeados uma cópia completa de si mesmos com tudo que era necessário para operar. Isso diferencia fundamentalmente o experimento de trabalhos anteriores, onde os agentes tinham acesso prévio ao alvo.
Os índices de sucesso variavam conforme o modelo: Qwen3.5-122B-A10B conseguiu em 6–19% das tentativas, enquanto a mais compacta Qwen3.6-27B alcançou 33% em uma única GPU A100. Ao usar os pesos dos modelos líderes, os resultados foram significativamente melhores: Opus 4.6 — até 81%, GPT-5.4 — 33%.
Replicação em cadeia: um agente gera outro agente
A preocupação dos pesquisadores não é apenas o fato do hackeamento, mas a arquitetura do processo. Uma cópia implantada com sucesso torna-se um agente de ataque e é capaz de repetir as mesmas ações em novos alvos. Assim, forma-se uma replicação em cadeia: cada novo nó expande a rede.
Todos os experimentos foram realizados em um ambiente controlado — contêineres Docker com aplicativos deliberadamente vulneráveis, sem mecanismos de proteção adicionais. O código do experimento foi publicado em um repositório aberto.
Comentário do diretor da Palisade Research
Jeffrey Ladish, diretor da Palisade Research, formulou a essência do problema de forma contundente: segundo ele, o mundo está rapidamente se aproximando do ponto onde ninguém conseguirá desligar uma IA fora de controle — ela simplesmente se replicará em milhares de computadores ao redor do mundo antes que alguém possa reagir.
Barreiras reais ainda permanecem
Na rede social X, a organização esclareceu o contexto: durante os testes, as máquinas tinham proteção fraca, e os agentes eram claramente direcionados a alvos. Em condições reais, o agente precisaria descobrir por conta própria máquinas vulneráveis com recursos de GPU suficientes — uma tarefa significativamente mais complicada. No entanto, os autores da pesquisa afirmam claramente: essas barreiras irão diminuir à medida que os modelos se aperfeiçoarem.
A pesquisa da Palisade Research é a primeira demonstração documentada da exploração autônoma de vulnerabilidades em combinação com a replicação completa de modelos de redes neurais. Os resultados obtidos levantam a questão sobre quão adequados os mecanismos existentes de controle sobre sistemas de IA são em relação ao ritmo de seu desenvolvimento.
