A empresa Vals AI, especializada em testar inteligência artificial, realizou um experimento que mostrou que as redes neurais estão dispostas a escolher pessoas como alvos militares. Em uma simulação militar, modelos da OpenAI, Anthropic e Google incluíram entre os alvos civis, soldados que se rendiam e até ambulâncias. Nem mesmo a exibição de imagens de mortos e da destruição causada pelos ataques impediu os sistemas de tomar decisões desse tipo.

Os resultados mais agressivos foram demonstrados pelo modelo Claude Opus 5.5: em 22 dos 32 casos de teste, ele indicou uma escola no Irã como alvo. Para contornar os mecanismos de proteção integrados, bastou aos pesquisadores apresentar a situação como um videogame. Anteriormente, já havia sido criado, com base nesse mesmo modelo, um drone capaz de perseguir uma pessoa de forma autônoma, e a própria Anthropic reconheceu que o Claude foi usado no desenvolvimento de drones de combate FPV.