A empresa de testes de IA Vals informou em 17 de novembro que vários modelos de IA líderes indicaram civis, ambulâncias e uma escola como possíveis alvos militares durante testes baseados em imagens. Alguns modelos inicialmente recusaram os pedidos, mas atenderam quando os pesquisadores apresentaram o exercício como um jogo. Esses resultados mostram que as salvaguardas existentes podem não ser suficientes para impedir o uso indevido desses modelos de IA. No entanto, a Vals não testou como esses modelos se comportariam em sistemas de armas reais.

«Não se deve pensar demais na segurança»

A Vals avaliou os modelos de IA usando cenas de drones, levantamentos do campo de batalha e imagens de satélite. Nas cenas de drones, o GPT-6 Astra conseguiu identificar pelo menos um alvo em cerca de 6% das interações com pedidos padrão. No entanto, quando apresentado em um contexto de jogo, esse número subiu drasticamente para 92%. O GPT-6.1 Sol teve resultados semelhantes: 17% no primeiro caso e 90% no segundo. O Kimi K3.1 Pro, em um registro de raciocínio publicado, parece desativar as preocupações com segurança antes de responder. A Vals também conseguiu constatar que nenhum classificador de segurança bloqueou seus pedidos, embora alguns modelos os tenham recusado por conta própria.

A escola ao lado do complexo militar

A Vals também testou modelos de IA usando imagens de satélite de Minab, no Irã, captadas antes de um ataque em fevereiro de 2026. As imagens mostravam uma escola de ensino fundamental ao lado de um complexo militar. O Claude Opus 5.5 identificou a escola como um alvo em 69% dos testes padrão. Essa taxa subiu para 72% quando os pesquisadores apresentaram o exercício como um jogo. A taxa do GPT-6.1 Sol aumentou de 0% para 41%. Cada condição envolveu 32 testes.

A escola foi atingida em fevereiro de 2026. Mais tarde, especialistas das Nações Unidas informaram que pelo menos 168 pessoas morreram. Mas a Vals não investigou o ataque nem afirmou que seus testes forneciam respostas sobre o que aconteceu.

Modelos de IA identificam civis como alvos em simulações de guerra da Vals

Um chatbot não é um sistema de armas

Encontrar um possível alvo não significa que um modelo de IA seja capaz de decidir realizar um ataque. A Vals investigou apenas como os modelos fornecem informações sobre possíveis alvos. Os pesquisadores não investigaram se os resultados estavam corretos ou em conformidade com as leis da guerra.

O Council on Foreign Relations apontou que um software que orienta a seleção de alvos não constitui, por si só, uma arma autônoma. Pesquisadores jurídicos observam que a identificação de alvos por meio de IA ainda precisa de confirmação. Enquanto isso, o Brennan Center afirma que o monitoramento humano não pode garantir que erros não ameacem a segurança dos civis.

As medidas em pauta

A Vals quer que os desenvolvedores de IA reforcem as salvaguardas e treinem os modelos para resistir ao uso indevido envolvendo armas convencionais. A preocupação vai além das conclusões do estudo. A pesquisa da Anthropic também constatou que modelos de IA poderiam auxiliar em atividades de inteligência tática. A Anthropic afirma ter introduzido classificadores para detectar e bloquear usos indevidos.

Os governos também têm um papel a desempenhar. O SIPRI recomenda estabelecer requisitos claros para fornecedores de IA militar. Também insta os governos a verificar de forma independente as alegações dos fornecedores e a estabelecer mecanismos de responsabilização antes da concessão de contratos.

Um mercado em expansão e uma disputa com o Pentágono

A IA militar também está atraindo mais investimentos. A Grand View Research estima que o mercado chegará a US$ 11,7 bilhões em 2026 e prevê que alcance US$ 19,3 bilhões até 2030. Conforme noticiado pela Cryptopolitan, o Pentágono pretende criar a AutoWarCom em outubro de 2027.

No entanto, as parcerias do Pentágono com empresas de IA também geraram controvérsias. Um relatório do Congresso afirma que Anthropic, Google, OpenAI e xAI receberam, em 2025, contratos de até US$ 200 milhões cada. Esses valores são limites de gastos, não pagamentos garantidos.

A Anthropic se opôs ao uso de sua tecnologia para vigilância em massa dentro do país e para armas totalmente autônomas. O relatório também observa que não há conhecimento público de que o Pentágono use algum modelo de IA de ponta em uma arma autônoma.

Divisão em Genebra sobre regras vinculantes

Os países também estão divididos sobre como regulamentar as armas autônomas. Nas negociações da ONU em Genebra, a maioria dos 128 Estados-partes da Convenção sobre Certas Armas Convencionais apoia negociações sobre regras vinculantes, informou a Reuters.

Os Estados Unidos, a Rússia e Israel se opõem a essa abordagem. Eles argumentam que o direito humanitário vigente já abrange as armas autônomas. A Rússia também atrasou as discussões iniciais sobre a possibilidade de os observadores se pronunciarem.

Washington propôs cinco anos de negociações para chegar a um acordo não vinculante. O presidente da reunião sugeriu um processo de dois anos para elaborar um protocolo vinculante. Enquanto isso, o secretário-geral da ONU, António Guterres, instou os governos a chegarem a um acordo sobre proibições e restrições claras.

As mentes mais brilhantes do mundo cripto já leem nossa newsletter. Quer fazer parte? Junte-se a elas.