La empresa Vals AI, dedicada a probar la inteligencia artificial, llevó a cabo un experimento que demostró que las redes neuronales están dispuestas a elegir a personas como objetivos militares. En una simulación militar, los modelos de OpenAI, Anthropic y Google señalaron como objetivos a civiles, soldados que se rendían e incluso ambulancias. Ni siquiera mostrar imágenes de muertos y de la destrucción causada por los ataques impidió que los sistemas tomaran decisiones de ese tipo.
El modelo Claude Opus 5.5 obtuvo los resultados más agresivos: en 22 de los 32 casos de prueba, señaló una escuela en Irán como objetivo. Para eludir los mecanismos de protección integrados, bastó con que los investigadores presentaran lo que ocurría como un videojuego. Anteriormente, ya se había creado a partir de este mismo modelo un dron capaz de perseguir a una persona por cuenta propia, y la propia Anthropic reconoció que Claude se había utilizado para desarrollar drones de combate FPV.
El modelo Claude Opus 5.5 obtuvo los resultados más agresivos: en 22 de los 32 casos de prueba, señaló una escuela en Irán como objetivo. Para eludir los mecanismos de protección integrados, bastó con que los investigadores presentaran lo que ocurría como un videojuego. Anteriormente, ya se había creado a partir de este mismo modelo un dron capaz de perseguir a una persona por cuenta propia, y la propia Anthropic reconoció que Claude se había utilizado para desarrollar drones de combate FPV.


