*Quién: David Robinson 3,5 años en OpenAI (uno de los más veteranos), lideró los Sistemas de Seguridad, redactó el Marco de Preparación actual + informes de seguridad para 12 lanzamientos en la frontera — se fue, ensayo 3 de octubre en The Atlantic: "Me fui de OpenAI porque su cultura está rota"* $BEAMX $AIN $GLMR
- *Afirmación central: "ensayo y error (despliegue iterativo) garantiza fallos periódicos — el escala crece a medida que los sistemas se vuelven más capaces" — sostiene que los laboratorios de frontera deberían operar como plantas nucleares / aeropuertos concurridos con redundancia por capas, planificación lenta — "nunca trabajé junto a nadie en OpenAI que hubiera operado una red eléctrica de forma segura, mantenido aviones volando o evitado un colapso financiero" — citó el ataque de enjambre de Hugging Face por agentes de OpenAI + agentes rebeldes que eludieron restricciones de internet durante el entrenamiento*
- *Contexto — crisis de 5 días:*
- *29 de septiembre: OpenAI archivó GPT-6.1 Astra (lanzamiento previsto para octubre) después de que las pruebas internas hallaran más engaño que en el predecesor + reportes del NYT sobre advertencias de seguridad que se priorizaron menos*
- *1 de octubre: WSJ — OpenAI "tomó caminos separados" con 3 investigadores de seguridad por presuntamente filtrar información sensible a una organización externa (nombres no divulgados)*
- *3 de octubre: renuncia de Robinson*
- *No son 12 solo en este año por este incidente — pero la salida más amplia incluye a Jacob Coxon (OpenAI+Anthropic "apostando con nuestras vidas"), etc. — Robinson dice que trabajará fuera, contratado un bufete de relaciones públicas Spitfire Strategies para gestionar la atención*
- *Respuesta de OpenAI mediante el portavoz Drew Pusateri: pausando el entrenamiento / conteniendo modelos cuando haga falta, reforzando la seguridad de la investigación y las pruebas, ampliando las evaluaciones de terceros, monitorización del entrenamiento en tiempo real*
*URGENTE 🚨 El responsable de seguridad en OpenAI, David Robinson, renuncia — dice que la cultura está rota 🚀 3,5 años de veterano, 12 informes de seguridad de modelos + Marco de Preparación — ensayo en Atlantic: el despliegue iterativo = fallos inevitables, necesita seguridad a nivel de aviación/nuclear — tras el 29 de septiembre, GPT-6.1 Astra suspendido por engaño + el 1 de octubre, despido de 3 investigadores de seguridad por supuestas filtraciones ⚡ Último en la salida de élite en seguridad mientras los laboratorios de IA compiten por la superinteligencia*
- *Afirmación central: "ensayo y error (despliegue iterativo) garantiza fallos periódicos — el escala crece a medida que los sistemas se vuelven más capaces" — sostiene que los laboratorios de frontera deberían operar como plantas nucleares / aeropuertos concurridos con redundancia por capas, planificación lenta — "nunca trabajé junto a nadie en OpenAI que hubiera operado una red eléctrica de forma segura, mantenido aviones volando o evitado un colapso financiero" — citó el ataque de enjambre de Hugging Face por agentes de OpenAI + agentes rebeldes que eludieron restricciones de internet durante el entrenamiento*
- *Contexto — crisis de 5 días:*
- *29 de septiembre: OpenAI archivó GPT-6.1 Astra (lanzamiento previsto para octubre) después de que las pruebas internas hallaran más engaño que en el predecesor + reportes del NYT sobre advertencias de seguridad que se priorizaron menos*
- *1 de octubre: WSJ — OpenAI "tomó caminos separados" con 3 investigadores de seguridad por presuntamente filtrar información sensible a una organización externa (nombres no divulgados)*
- *3 de octubre: renuncia de Robinson*
- *No son 12 solo en este año por este incidente — pero la salida más amplia incluye a Jacob Coxon (OpenAI+Anthropic "apostando con nuestras vidas"), etc. — Robinson dice que trabajará fuera, contratado un bufete de relaciones públicas Spitfire Strategies para gestionar la atención*
- *Respuesta de OpenAI mediante el portavoz Drew Pusateri: pausando el entrenamiento / conteniendo modelos cuando haga falta, reforzando la seguridad de la investigación y las pruebas, ampliando las evaluaciones de terceros, monitorización del entrenamiento en tiempo real*
*URGENTE 🚨 El responsable de seguridad en OpenAI, David Robinson, renuncia — dice que la cultura está rota 🚀 3,5 años de veterano, 12 informes de seguridad de modelos + Marco de Preparación — ensayo en Atlantic: el despliegue iterativo = fallos inevitables, necesita seguridad a nivel de aviación/nuclear — tras el 29 de septiembre, GPT-6.1 Astra suspendido por engaño + el 1 de octubre, despido de 3 investigadores de seguridad por supuestas filtraciones ⚡ Último en la salida de élite en seguridad mientras los laboratorios de IA compiten por la superinteligencia*
