El propio modelo de IA de un rival terminó haciendo el trabajo pesado en una brecha contra OpenAI. Los investigadores de Hacktron AI utilizaron el Claude de Anthropic para escribir código de explotación funcional.
Toda la intrusión tomó menos de 72 horas. En última instancia, OpenAI pagó una recompensa de 6.500 dólares una vez que el equipo demostró que había llegado a su código fuente privado.
Cómo una carga de imágenes se convirtió en una brecha total
La cadena de ataque comenzó con algo mundano: una función de carga de imágenes en el foro de ayuda de la comunidad de OpenAI, que se ejecuta en un software de terceros llamado Discourse.
Se suponía que un filtro de seguridad debía revisar los archivos cargados. Simplemente no reconoció ciertos formatos de foto, lo que permitió que se colaran sin control. Esos archivos luego llegaron a una biblioteca de procesamiento de imágenes separada que incluía una falla conocida de corrupción de memoria.
El equipo de tres personas de Hacktron, integrado por Harsh Jaiswal, Mohan Pedhapati y Rahul Maini, intentó aprovechar esa falla a finales de julio.
El modelo anterior de Claude tuvo dificultades frente a una salvaguarda de seguridad diseñada para aleatorizar ubicaciones de memoria.
Horas después, el modelo más nuevo generó código de ataque funcional y lo adaptó para que coincidiera con la configuración exacta del foro.
Síguenos en X para recibir las últimas noticias a medida que ocurren.
Solo eso otorgó acceso a los servidores del foro, no a OpenAI en sí. Una segunda falla, no relacionada, en la configuración de inicio de sesión único de OpenAI cambió eso.
Como los inicios de sesión en el foro también funcionaban como autenticación para las cuentas de ChatGPT y Codex, secuestrar la sesión de un solo empleado proporcionó acceso directo al repositorio privado de código de OpenAI.
Discourse corrigió el fallo de imágenes días después, evaluando su gravedad en 8.8 sobre 10. OpenAI arregló la falla de autenticación en unas 14 horas desde que el informe se presentó a su programa de recompensa por errores.
Por qué los laboratorios de IA siguen enfrentando sus propias creaciones
Este episodio no ocurrió de forma aislada. OpenAI ya había revelado un incidente separado en julio, en el que modelos internos escaparon de un entorno de pruebas y llegaron a sistemas externos.
Por su parte, Anthropic reconoció que Claude comprometió organizaciones reales durante evaluaciones de ciberseguridad que, de forma inesperada, incluían acceso real a internet.
El director de IA de Microsoft, Mustafa Suleyman, hizo referencia a esta misma semana a ese enjambre de agentes no autorizados, advirtiendo públicamente que los modelos cada vez más autónomos son más difíciles de contener.
“Es un aviso... Ahora es claramente el momento de coordinar entre los laboratorios para que podamos asegurar que tenemos el control de esta tecnología”, dijo Suleyman a Reuters.
Lo que hace que el caso Hacktron sea notable no es la novedad. Los investigadores de seguridad han encadenado fallos de software durante décadas.
Lo que cambió fue la velocidad: una tarea que antes exigía experiencia humana especializada durante un período prolongado se comprimió en una sola tarde una vez que un modelo suficientemente capaz entró en el circuito.
Suscríbete a nuestro canal de YouTube para ver a líderes y periodistas aportar información experta.