Anthropic, OpenAI y Google han hablado sobre la creación de un organismo colaborativo de estándares de la industria, según un informe de The Information. Esto daría a los laboratorios fronterizos más grandes la oportunidad de sentar las normas de seguridad con las que se evaluarán sus propios modelos.
Para las empresas que están evaluando si utilizar o no modelos fronterizos para tareas sensibles, la introducción de estándares comunes aumentaría su certeza sobre la adopción. Pero este mismo marco podría empoderar a los actores más grandes. La OCDE ya ha advertido que los altos costos fijos, la falta de recursos informáticos y la infraestructura concentrada ya dificultan que las empresas entren en el mercado de la IA. Los costos de cumplimiento podrían añadir otro obstáculo más para que los laboratorios más pequeños lo enfrenten.
Las propuestas que ya están sobre la mesa
El 14 de julio, Demis Hassabis, director de Google DeepMind, propuso una iniciativa para un organismo de Estándares de IA de Frontera con base en EE. UU., inspirada en la Autoridad Reguladora de la Industria Financiera (FINRA).
En su propuesta, Frontier Labs presentaría voluntariamente sus tecnologías avanzadas para su evaluación, con un período de evaluación de 30 días antes de su lanzamiento. Los evaluadores evaluarían la seguridad de las tecnologías para asegurarse de que no presenten ningún riesgo, como ciberseguridad, amenazas biológicas o manipulación.
El Consejo de Relaciones Exteriores (CFR) informó que la Casa Blanca ya estaba considerando la idea presentada por Hassabis. Según su propuesta, solo sería obligatorio pasar el proceso de evaluación en una etapa posterior, con el fin de desplegar tecnologías de frontera en EE. UU.
En su artículo de septiembre titulado “We Must Pace the Frontier”, Dario Amodei, CEO de Anthropic, ve el problema desde un ángulo diferente. Los esfuerzos de seguridad necesitan recibir un poco de tiempo adicional para ponerse al día con las capacidades de IA, según él. La salida para Amodei es permitir que evaluadores independientes como METR visiten laboratorios de frontera durante períodos prolongados de tiempo, lo que abriría el camino para la colaboración entre las principales empresas de IA de estados democráticos en torno a estándares de seguridad.
Por qué no es el primer intento
Es importante señalar que las organizaciones de seguridad lideradas por la industria existen desde hace algún tiempo. De hecho, en 2023, el Frontier Model Forum se unió con seis grandes empresas de IA como parte del esfuerzo por establecer un programa independiente de investigación en seguridad a través del AI Safety Fund de más de 10 millones de USD.
La Agentic AI Foundation se creó en diciembre de 2025 como parte de la Linux Foundation y tiene como objetivo desarrollar estándares e infraestructura abiertos para agentes de IA. Los proyectos que dieron origen a la fundación incluyen el Model Context Protocol de Anthropic, el goose de Block y AGENTS.md de OpenAI.
OpenAI cooperó en la creación de la Fundación Appia, que se estableció en junio de 2026 con 13 miembros. La fundación busca convertir principios generales de gobernanza de la IA en especificaciones, pruebas y pruebas de cumplimiento, que se usarían en toda la cadena de suministro de IA.
Comparación de Estándares de IA de Frontera: FMF, Appia, AAIF, Código GPAI de la UE y Propuesta de EE. UU.
La necesidad de coordinación también se observa más allá de las organizaciones de la industria. Según informó Cryptopolitan, el jefe de asuntos globales de OpenAI, Chris Lehane, insistió en que EE. UU. y China deberían respaldar el marco global de seguridad de la IA, comparando esta iniciativa con la cooperación nuclear internacional.
El problema del foso que nadie ha resuelto
El problema clave es la independencia. Según el análisis del CFR, un regulador financiado por el sector podría encontrarse con conflictos que se asemejan a los vistos en el sistema de calificación crediticia en el que el emisor paga antes de la crisis financiera de 2008, planteando una serie de preguntas sin respuesta con respecto al acceso del regulador a modelos de frontera, la experiencia de los evaluadores, las medidas de seguridad nacional y la fiabilidad de los métodos actuales de prueba.
La capacidad es otro desafío. Una proyección proporcionada por GovAI es que 14-16 modelos en los años de 2025 a 2028 podrían pertenecer al mismo orden de magnitud que el mayor entrenamiento realizado hasta la fecha, lo que significa que se requiere capacidad de revisión continua en lugar de evaluaciones periódicas.
La competencia también es importante. Los estándares establecidos principalmente por los laboratorios más grandes pueden convertirse en costos fijos, lo que les resulta más fácil a los incumbentes sostener en comparación con las startups. Si algún marco voluntario se convierte en un requisito obligatorio, es necesario introducir algunos mecanismos que eviten que el cumplimiento de la seguridad funcione como una barrera de entrada al mercado.
Lo que se cree tiene que correlacionarse con Europa. El Código de Prácticas de IA de Propósito General de la Unión Europea, presentado en julio de 2025 para servir como una vía voluntaria para demostrar el cumplimiento de la Ley de IA, ya ha incluido a Anthropic, Google, Microsoft y OpenAI como signatarios. Por lo tanto, cualquier nuevo organismo de estándares de EE. UU. o liderado por la industria tendría que entrar en un panorama ya saturado de gobernanza en lugar de crear uno por sí mismo.
Si estás leyendo esto, ya vas por delante. Quédate con nuestro boletín.