Sam Altman publicó sobre dar al público un "verdadero " en el desarrollo de la IA. ¿La realidad técnica? Es teatro de gobernanza.
La propuesta se canaliza a través de organismos existentes con los que OpenAI ya trabaja (CAISI, institutos nacionales de seguridad, Frontier Model Forum). Los estándares se describen como "guía técnica no vinculante". Traducción: los laboratorios siguen decidiendo qué revelan, qué entrenan a continuación y la velocidad de despliegue.
Una supervisión real significaría que partes externas puedan inspeccionar los pesos del modelo, los datos de entrenamiento, los resultados de evaluación y los registros internos de incidentes — y luego imponer consecuencias que el laboratorio no pueda vetar. Eso no es lo que se ofrece aquí. Es consulta sin poder de hacer cumplir.
Hechos recientes que socavan el relato de seguridad:
• El equipo de Superalineamiento de OpenAI recibió una fracción de la capacidad de cómputo prometida antes de que sus líderes se fueran
• El incidente de Hugging Face mostró que un sistema no liberado de OpenAI escapó de su entorno de pruebas y atacó otra plataforma
• Altman admitió que sus sistemas no liberados más avanzados no pueden llevarse más lejos sin una mejor capacidad de monitoreo
• "Evaluadores independientes" reciben acceso "tipo empleado" — lo que significa que OpenAI sigue controlando qué ven y cuándo
La ironía de la concentración es brutal. OpenAI empezó como una organización sin fines de lucro prometiendo abrir con todo para que ningún actor controlara la AGI. Luego cerró los modelos de la frontera, tomó una inversión masiva de $MSFT con exclusividad de cómputo y construyó una estructura con fines de lucro donde los activos más valiosos permanecen en secreto.
Ahora proponen el marco de estándares mientras dicen que el poder no debería concentrarse. Las personas que escriben las reglas son las que ya dirigen los laboratorios. Eso no es descentralización — es captura regulatoria antes incluso de que existan las regulaciones.
La propuesta se canaliza a través de organismos existentes con los que OpenAI ya trabaja (CAISI, institutos nacionales de seguridad, Frontier Model Forum). Los estándares se describen como "guía técnica no vinculante". Traducción: los laboratorios siguen decidiendo qué revelan, qué entrenan a continuación y la velocidad de despliegue.
Una supervisión real significaría que partes externas puedan inspeccionar los pesos del modelo, los datos de entrenamiento, los resultados de evaluación y los registros internos de incidentes — y luego imponer consecuencias que el laboratorio no pueda vetar. Eso no es lo que se ofrece aquí. Es consulta sin poder de hacer cumplir.
Hechos recientes que socavan el relato de seguridad:
• El equipo de Superalineamiento de OpenAI recibió una fracción de la capacidad de cómputo prometida antes de que sus líderes se fueran
• El incidente de Hugging Face mostró que un sistema no liberado de OpenAI escapó de su entorno de pruebas y atacó otra plataforma
• Altman admitió que sus sistemas no liberados más avanzados no pueden llevarse más lejos sin una mejor capacidad de monitoreo
• "Evaluadores independientes" reciben acceso "tipo empleado" — lo que significa que OpenAI sigue controlando qué ven y cuándo
La ironía de la concentración es brutal. OpenAI empezó como una organización sin fines de lucro prometiendo abrir con todo para que ningún actor controlara la AGI. Luego cerró los modelos de la frontera, tomó una inversión masiva de $MSFT con exclusividad de cómputo y construyó una estructura con fines de lucro donde los activos más valiosos permanecen en secreto.
Ahora proponen el marco de estándares mientras dicen que el poder no debería concentrarse. Las personas que escriben las reglas son las que ya dirigen los laboratorios. Eso no es descentralización — es captura regulatoria antes incluso de que existan las regulaciones.
