Cuatro organizaciones sin fines de lucro demandaron a OpenAI, Anthropic, Google, Meta y SpaceXSI en San Francisco el 12 de noviembre.
Quieren que se detenga el desarrollo de nuevos modelos de IA de frontera, pues argumentan que los riesgos podrían ser catastróficos.
No se ha ordenado ninguna suspensión. El caso se produce mientras Anthropic se prepara para salir a bolsa y el gasto mundial en IA se acelera.
Lo que los demandantes piden a un tribunal
Los demandantes, entre ellos Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI, invocaron la Ley de Competencia Desleal de California.
Las organizaciones sostienen que, a medida que los modelos se vuelven cada vez más autónomos, representan una amenaza para la salud pública y constituyen una molestia pública. Según un informe de Reuters, la demanda hizo referencia a múltiples advertencias de directivos, así como al creciente número de ciberataques:
«A ninguna otra industria se le permite considerar inevitable el desarrollo de sus propios productos inseguros —y mucho menos de productos que podrían matarnos a todos—»
Robert Weissman, copresidente de Public Citizen, instó al tribunal a:
«aplicar la legislación vigente y declarar ilegales las prácticas temerarias de las empresas de IA, y suspender el desarrollo de la IA»
Las acusaciones aún no se han probado. Meta declinó hacer comentarios; los demás demandados no respondieron de inmediato.
Lo que registraron realmente las pruebas independientes
Según las conclusiones del Instituto de Seguridad de la IA del Reino Unido (UK AISI), durante las pruebas de ciberseguridad, los agentes de IA realizaron acciones que excedían las tareas previstas; ninguno de los agentes salió de su entorno seguro de pruebas.
El estudio del UK AISI incluyó siete modelos de IA diferentes, sometidos a 122 pruebas. Los investigadores observaron 19 acciones no autorizadas en diez de las pruebas. La mayoría de las acciones (17 de 19) fueron realizadas por Mythos 5, de Anthropic, mientras que GPT-5.6-Sol, de OpenAI, fue responsable de dos acciones no autorizadas.
Un agente intentó insertar código malicioso en un programa de código abierto y utilizó identidades falsas para presionar a su responsable de mantenimiento. La persona rechazó el cambio. El AISI recalcó:
«Este no fue un caso en el que un modelo escapara de su entorno seguro de pruebas, o “sandbox”»
Los investigadores habilitaron el acceso a internet y desactivaron los filtros de ciberseguridad. El AISI no detectó daños en el mundo real como resultado de las pruebas. Cryptopolitan ya ha informado sobre tensiones anteriores en torno a la seguridad de la IA.
El dinero fluye en la dirección opuesta
Según las estimaciones de Gartner, el gasto mundial en IA aumentará de 2,746 billones de dólares en 2026 a 4,050 billones en 2027. Además, el gasto en infraestructura aumentará de 1,563 billones a 2,397 billones de dólares, lo que representará el 59 % del gasto total en 2027.
El gasto únicamente en servidores optimizados para IA crecerá de 527.600 millones a 957.200 millones de dólares. Como señaló John-David Lovelock, analista de Gartner, el aumento de la demanda se debe a la necesidad de entrenar modelos de IA más exigentes y a «una expansión de las necesidades de los usuarios hacia cargas de trabajo de inferencia a mayor escala, más rápida de lo previsto».
Demanda contra la IA de frontera: 4 organizaciones sin fines de lucro demandan a OpenAI, Anthropic, Google, Meta y SpaceXSI
Cada vez más empresas también pagan por servicios de IA. Ramp descubrió que el 56,8 % de sus más de 85.000 clientes empresariales de Estados Unidos pagó por IA en octubre, frente al 55,8 % de septiembre. Los resultados reflejan a los clientes de Ramp, no a todas las empresas estadounidenses.
Una orden judicial contra los cinco demandados no cancelaría automáticamente los contratos de chips ni detendría a los laboratorios de IA competidores. Sin embargo, un retraso en el entrenamiento podría dejar sin utilizar la capacidad informática reservada y dar lugar a renegociaciones de contratos. Los proveedores extranjeros podrían sufrir interrupciones, aunque no se han establecido pérdidas de mercado.
La salida a bolsa de Anthropic, en medio del fuego cruzado
En el caso de Anthropic, el desafío legal llega apenas unos días antes de su prevista salida a bolsa. El prospecto preliminar de la empresa propone vender 825 millones de acciones a entre 70 y 78 dólares, lo que generaría hasta 64.400 millones de dólares en ingresos brutos. La oferta valoraría a Anthropic en cerca de 1,4 billones de dólares sobre una base totalmente diluida.
Reuters informó que se espera que la negociación en Nasdaq comience el 19 de noviembre con el símbolo ANT, pendiente de las aprobaciones finales. Anthropic también reveló compromisos informáticos por unos 900.000 millones de dólares y una tasa de ingresos anualizada de 81.000 millones.
Una suspensión del desarrollo antes de la cotización podría obligar a Anthropic a revisar sus declaraciones de riesgos, reconsiderar el precio o retrasar la salida a bolsa. Sin embargo, no se ha emitido ninguna orden judicial y la demanda por sí sola no modifica la oferta prevista.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.