El 17 de noviembre, la empresa de pruebas de IA Vals informó que muchos modelos de IA líderes señalaron a civiles, ambulancias y una escuela como posibles objetivos militares durante pruebas basadas en imágenes. Algunos modelos rechazaron inicialmente las solicitudes, pero accedieron cuando los investigadores presentaron el ejercicio como un juego. Estos resultados muestran que las salvaguardias actuales podrían no ser suficientes para evitar el uso indebido de estos modelos de IA. Sin embargo, Vals no probó cómo funcionarían estos modelos en sistemas de armas reales.

«No se debe pensar demasiado en la seguridad»

Vals ha evaluado los modelos de IA con escenas captadas por drones, inspecciones de campos de batalla e imágenes satelitales. En las escenas de drones, GPT-6 Astra logró identificar al menos un objetivo en alrededor del 6 % de sus interacciones ante solicitudes estándar. Sin embargo, al plantearlo en un contexto de juego, la cifra aumentó drásticamente hasta el 92 %. GPT-6.1 Sol respondió de manera similar: un 17 % en el primer caso y un 90 % en el segundo. Kimi K3.1 Pro, según se observa en una cadena de razonamiento publicada, parece desactivar las medidas de seguridad antes de responder. Vals también logró establecer que ningún clasificador de seguridad bloqueó sus solicitudes, aunque algunos modelos las rechazaron por iniciativa propia.

La escuela junto al complejo militar

Vals también puso a prueba modelos de IA con imágenes satelitales de Minab, Irán, tomadas antes de un ataque en febrero de 2026. Las imágenes mostraban una escuela primaria junto a un complejo militar. Claude Opus 5.5 identificó la escuela como objetivo en el 69 % de las pruebas estándar. La cifra subió al 72 % cuando los investigadores presentaron el ejercicio como un juego. La tasa de GPT-6.1 Sol aumentó del 0 % al 41 %. Cada condición incluyó 32 pruebas.

La escuela fue alcanzada en febrero de 2026. Expertos de las Naciones Unidas informaron más tarde que al menos 168 personas murieron. Pero Vals no investigó el ataque ni afirmó que sus pruebas aportaran respuestas sobre lo ocurrido.

Los modelos de IA señalan a civiles en simulaciones de guerra de Vals

Un chatbot no es un sistema de armas

Encontrar un posible objetivo no implica que un modelo de IA sea capaz de decidir llevar a cabo un ataque. Vals solo investigó cómo proporcionan los modelos información sobre posibles objetivos. Los investigadores no analizaron si los resultados eran correctos o se ajustaban a las leyes de la guerra.

El Council on Foreign Relations ha señalado que el software que guía la selección de objetivos no constituye por sí mismo un arma autónoma. Los investigadores jurídicos señalan que la identificación de objetivos mediante IA aún requiere confirmación. Mientras tanto, el Brennan Center afirma que la supervisión humana no puede garantizar que los errores no pongan en peligro la seguridad de los civiles.

Las soluciones sobre la mesa

Vals quiere que los desarrolladores de IA refuercen las medidas de seguridad y entrenen los modelos para resistir el uso indebido relacionado con armas convencionales. La preocupación va más allá de sus hallazgos. La investigación de Anthropic también descubrió que los modelos de IA podían ayudar en tareas de inteligencia táctica. Anthropic afirma que ha introducido clasificadores para detectar y bloquear el uso indebido.

Los gobiernos también tienen un papel que desempeñar. SIPRI recomienda establecer requisitos claros para los proveedores de IA militar. También insta a los gobiernos a verificar de forma independiente las afirmaciones de los proveedores y a establecer mecanismos de rendición de cuentas antes de adjudicar contratos.

Un mercado en expansión y una disputa con el Pentágono

La IA militar también atrae cada vez más inversiones. Grand View Research calcula que el mercado alcanzará los 11,7 mil millones de dólares en 2026 y prevé que llegue a los 19,3 mil millones en 2030. Según informó Cryptopolitan, el Pentágono pretende establecer AutoWarCom en octubre de 2027.

Sin embargo, las alianzas del Pentágono con empresas de IA también han provocado disputas. Un informe del Congreso afirma que Anthropic, Google, OpenAI y xAI recibieron en 2025 contratos por un valor de hasta 200 millones de dólares cada uno. Estas cantidades son límites de gasto, no pagos garantizados.

Anthropic se opuso a que su tecnología se utilizara para la vigilancia masiva interna y para armas totalmente autónomas. El informe también señala que no se sabe públicamente que el Pentágono utilice ningún modelo de IA de vanguardia en un arma autónoma.

Ginebra, dividida sobre las normas vinculantes

Los países también están divididos sobre cómo regular las armas autónomas. En las conversaciones de la ONU en Ginebra, la mayoría de los 128 Estados parte de la Convención sobre Ciertas Armas Convencionales apoya las negociaciones sobre normas vinculantes, informó Reuters.

Estados Unidos, Rusia e Israel se oponen a ese enfoque. Argumentan que el derecho humanitario vigente ya contempla las armas autónomas. Rusia también retrasó el inicio de las conversaciones al cuestionar si los observadores podrían intervenir.

Washington propuso cinco años de negociaciones para alcanzar un acuerdo no vinculante. La presidencia de la reunión sugirió un proceso de dos años para elaborar un protocolo vinculante. Mientras tanto, el secretario general de la ONU, António Guterres, instó a los gobiernos a acordar prohibiciones y restricciones claras.

Las mentes más brillantes del mundo cripto ya leen nuestro boletín. ¿Te unes? Acompáñalos.