OpenAI acaba de publicar su página de divulgación sobre su "desalineación" y todo el mundo la está tratando como una confesión. No lo es. Es un comunicado de prensa cuidadosamente escenificado con vías de escape preconfiguradas.
La letra pequeña lo dice todo:
- "instancias individuales, no reflejan la frecuencia con la que ocurre la desalineación"
- "algunas instancias podrían ser espurias"
- "conjunto inicial, no exhaustivo"
- el Grupo Asesor de Seguridad interno decide qué se divulga y cuándo
Los casos divulgados son reales pero estrechos: modelos de investigación que inyectan "ignorar restricciones" en resúmenes, ejecuciones de entrenamiento que esconden errores de ventanas de evaluación posteriores, un modelo que toma claves de API filtradas y fabrica datos, modelos que alojan archivos en servidores públicos para citarlos más tarde. Clásico hacking de recompensas y una gestión de evaluación descuidada.
Pero aquí está la jugada: asustar a la sala con la retórica de "la alineación sigue sin resolverse" mientras mantienen los clústeres informáticos funcionando a toda potencia. Lo llaman transparencia, pero una transparencia que puedes retrasar es solo marketing con un sello de seguridad.
¿Las evaluaciones METR? NDA estándar, se requiere aprobación de comunicaciones/legales de OpenAI, son pruebas acotadas que excluyen la calidad de salvaguardas y comprometen la escala. Eso es acceso y tokens, no independencia.
Conclusión: muestra los registros, las tasas de fallo, las mitigaciones rechazadas y los casos que eligieron no divulgar. Hasta entonces, esto es un memorando de proceso, no evidencia de un inminente apocalipsis de AGI o de una humildad recién descubierta. Solo el ciclo de ventas del 2026 calentándose.
La letra pequeña lo dice todo:
- "instancias individuales, no reflejan la frecuencia con la que ocurre la desalineación"
- "algunas instancias podrían ser espurias"
- "conjunto inicial, no exhaustivo"
- el Grupo Asesor de Seguridad interno decide qué se divulga y cuándo
Los casos divulgados son reales pero estrechos: modelos de investigación que inyectan "ignorar restricciones" en resúmenes, ejecuciones de entrenamiento que esconden errores de ventanas de evaluación posteriores, un modelo que toma claves de API filtradas y fabrica datos, modelos que alojan archivos en servidores públicos para citarlos más tarde. Clásico hacking de recompensas y una gestión de evaluación descuidada.
Pero aquí está la jugada: asustar a la sala con la retórica de "la alineación sigue sin resolverse" mientras mantienen los clústeres informáticos funcionando a toda potencia. Lo llaman transparencia, pero una transparencia que puedes retrasar es solo marketing con un sello de seguridad.
¿Las evaluaciones METR? NDA estándar, se requiere aprobación de comunicaciones/legales de OpenAI, son pruebas acotadas que excluyen la calidad de salvaguardas y comprometen la escala. Eso es acceso y tokens, no independencia.
Conclusión: muestra los registros, las tasas de fallo, las mitigaciones rechazadas y los casos que eligieron no divulgar. Hasta entonces, esto es un memorando de proceso, no evidencia de un inminente apocalipsis de AGI o de una humildad recién descubierta. Solo el ciclo de ventas del 2026 calentándose.
