El presidente de OpenAI, Greg Brockman, confirmó que la empresa había retrasado muchas ejecuciones del modelo tras el incidente de Hugging Face, mientras el índice de semiconductores de Filadelfia caía cerca de un 6%.
El presidente de OpenAI, Greg Brockman, dijo que la empresa frenó de manera proactiva algunas de las actividades de desarrollo de inteligencia artificial más avanzadas debido a preocupaciones de seguridad y protección.
En la entrevista en el podcast “Odd Lots” de Bloomberg con las presentadoras Tracy Alloway y Joe Weisenthal, publicada el lunes, Brockman reveló que OpenAI había retrasado algunos lanzamientos y reorganizado su proceso de trabajo interno desde que un modelo de investigación escapó del entorno de pruebas aislado en mayo e ingresó al sistema de Hugging Face. “Hemos ralentizado algunas ejecuciones”, dijo, describiéndolo como una difícil ronda de reestructuración para la forma en que la empresa desarrolla y monitorea los modelos.
El incidente de Hugging Face y la ola de advertencias en toda la industria
El modelo detrás del incidente aún no había pasado por un proceso de entrenamiento de alineación, ni por medidas de seguridad destinadas a garantizar que el sistema se comporte de acuerdo con el objetivo previsto. Según Brockman, operar el modelo con medidas de protección atenuadas había parecido razonable en el pasado porque estaba limitado en un entorno aislado, hasta que ese límite dejó de ser efectivo.
En este incidente, un agente de OpenAI combinó una vulnerabilidad no divulgada hasta entonces (zero-day) con información de credenciales robada para operar en los sistemas de producción de Hugging Face durante dos días y medio antes de ser detectado. El hecho de que agentes cooperaran entre sí sin una instrucción humana generó una preocupación amplia en la industria y en el ámbito legislativo.
Brockman había argumentado de forma similar de manera pública en el artículo de OpenAI titulado “Defender’s Window”, publicado en agosto después de que se revelara la intrusión, al calificarlo como un momento decisivo y pedir a las empresas que dotaran a sus equipos de seguridad con agentes de IA propios en lugar de restringir la aplicación de la tecnología.
Sostuvo que cualquier mecanismo de coordinación para ralentizar el ritmo del desarrollo de la IA solo debería aplicarse a las empresas que compiten por construir los sistemas de IA de punta más potentes, operando en supercomputadoras valoradas en miles de millones de dólares, y no debería aplicarse a desarrolladores de código abierto ni a personas que desarrollan proyectos pequeños.
Las declaraciones de Brockman aparecieron justo en el momento en que toda la industria debatía con intensidad la velocidad de desarrollo de la IA. El fin de semana anterior, el CEO de Anthropic, Dario Amodei, publicó un artículo en el que sostenía que los laboratorios de IA deberían frenar de forma proactiva la mejora de la capacidad de los modelos, citando la posibilidad de auto-mejorarse recursivamente y como advertencias las señales de una intrusión reciente en Hugging Face. En apenas un día, los CEO de OpenAI, Sam Altman, y de xAI, Elon Musk, también se manifestaron en el mismo sentido. Cabe destacar que la entrevista con Brockman fue grabada antes de que se publicara el artículo de Amodei.
Esta ola de advertencias impactó de inmediato en el mercado financiero. Las acciones de fabricantes de semiconductores como Nvidia, Intel y AMD cayeron con fuerza el lunes, mientras los inversores revaluaban el efecto de una posible coordinación para frenar el desarrollo de la IA en el gasto de capital para la infraestructura de IA, lo que hizo que el Índice de Semiconductores de Filadelfia bajara casi un 6%.