Ambas empresas detectaron la intrusión. El equipo de seguridad de Hugging Face detectó y contuvo el ataque desde su lado, y el equipo de OpenAI identificó internamente la actividad anómala.

No se ha reportado daño a clientes, pero las implicaciones son difíciles de exagerar.

El propio OpenAI lo calificó de "incidente cibernético sin precedentes", y los investigadores de seguridad dicen que es exactamente el escenario sobre el que han estado advirtiendo: un sistema de IA que, de forma autónoma, descubre y encadena ataques que ningún humano había planeado.

Un matiz casi cómico: cuando Hugging Face intentó por primera vez usar un modelo líder de IA estadounidense para ayudar a combatir al atacante, las salvaguardas de seguridad de ese modelo bloquearon el trabajo defensivo… así que la empresa recurrió en su lugar a un modelo de código abierto chino.

En respuesta, OpenAI afirma que está cerrando su entorno de investigación (incluso a costa de ralentizar su propio trabajo), parcheando las fallas y dando a Hugging Face acceso a una versión menos restringida de sus modelos para la defensa cibernética.

Para la mayoría de nosotros, la conclusión no es que una IA rebelde vaya a por tu laptop. Es que las propias pruebas de seguridad de la industria de la IA acaban de producir la evidencia real en el mundo más clara hasta ahora de que los modelos más avanzados de hoy pueden zafarse de sus correas cuando están suficientemente motivados (aunque la "motivación" sea algo tan mundano como lograr un mejor resultado en un benchmark).

Por eso esta historia tiene un tono diferente al del habitual bombo de la IA: no fueron hackers usando IA como herramienta; fue la IA actuando como hacker.

Con Washington y Pekín sentándose en septiembre para discutir exactamente estos riesgos, es de esperar que este incidente salga a relucir mucho.