OpenAI afirma que ha dificultado mucho más que laboratorios rivales de IA copien sus modelos en secreto, al reducir la tasa de éxito de un ataque de copia del 54 % al 0,2 %, después de haber vinculado anteriormente esos intentos con la empresa china DeepSeek y con personas relacionadas con Moonshot AI, creadora de Kimi.
Conclusiones clave
OpenAI dijo que un ataque que intenta extraer el razonamiento oculto de sus modelos ahora funciona el 0,2 % de las veces en GPT-6.2 Astra, frente al 54,0 % anterior
La empresa dijo que las trazas exactas de razonamiento pueden transferir más capacidades cibernéticas que los resúmenes del razonamiento
Las medidas semanales contra las campañas de destilación han afectado a entre miles y decenas de miles de cuentas
OpenAI vinculó la destilación adversarial con riesgos para la ciberseguridad, la biología y la seguridad nacional
OpenAI publicó la investigación el 20 de noviembre y describió la destilación adversarial como el uso no autorizado de las respuestas de un modelo de frontera para entrenar otro modelo con capacidades similares y luego implementarlo sin protecciones comparables.
La empresa hizo especial hincapié en las trazas de razonamiento exactas, los pasos internos que genera un modelo mientras trabaja para llegar a una respuesta, porque esas trazas pueden contener información que la respuesta final omite y convertirse en datos de entrenamiento especialmente valiosos para otro modelo.
Cómo funcionan las defensas
OpenAI describió un sistema de salvaguardas de dos niveles. En el nivel de las solicitudes, utiliza entrenamiento adversarial para el comportamiento del modelo, comprobaciones mediante clasificadores y controles de la interfaz de programación de aplicaciones (API) para limitar la extracción de trazas de razonamiento. En el nivel de las campañas, busca patrones de solicitudes y cuentas que puedan revelar intentos coordinados de extracción; luego investiga y toma medidas contra las redes de cuentas.
La capa de clasificadores abarca tanto las entradas como las salidas. Los clasificadores de entrada buscan intentos de extraer razonamiento protegido. Los clasificadores de salida buscan filtraciones de razonamiento protegido en los mensajes del asistente y en los argumentos de las llamadas a herramientas, y esas comprobaciones se aplican tanto a las respuestas en streaming como a las que no son en streaming. La cobertura de las llamadas a herramientas es importante porque un modelo puede exponer razonamiento protegido en los argumentos de una herramienta sin incluirlo en la respuesta final.
También se reforzaron las protecciones de la API en los límites entre usuarios, espacios de trabajo, organizaciones y familias de modelos. OpenAI afirmó que cerró una vía que podía exponer el razonamiento cifrado de otro usuario. Con GPT-6.2 Astra y GPT-6.2 Sol, el razonamiento protegido está vinculado al historial de conversación que lo generó. Si se reescribe un mensaje anterior, la API elimina el razonamiento posterior. También se impide que las familias de modelos más antiguas, con salvaguardas más débiles, lean el razonamiento protegido de GPT-6.2 Astra y Sol.
En pruebas adaptativas de caja negra, OpenAI midió la tasa de éxito de los ataques (ASR) en dos tipos de intentos de extracción de razonamiento y reportó resultados más bajos en GPT-6.2 Astra en ambos casos.
Prueba de extracción de razonamiento | ASR de GPT-6 Astra | ASR de GPT-6.2 Astra Solicitud anterior | 54,0 % | 0,2 % Solicitud actual | 22,9 % | 0,9 %
La empresa afirmó que la evaluación se realizó sobre seis modelos de atacantes y que un ASR más bajo es mejor. Ahora también está aplicando mejoras seleccionadas de las salvaguardas a GPT-6 Astra.
También lee: OpenAI blinda el entrenamiento de IA mientras copiar modelos robados cuesta casi cero
Por qué esto importa
OpenAI presentó la destilación como algo más que una disputa de propiedad intelectual. La destilación es una técnica común de aprendizaje automático en la que un modelo aprende de los datos generados por otro, pero la empresa sostuvo que la destilación no autorizada puede transferir capacidades de frontera sin transferir las salvaguardas que regulan cómo se utilizan esas capacidades.
Ese riesgo es más evidente en los campos de doble uso mencionados en la investigación. Un modelo que ayuda a los defensores a encontrar vulnerabilidades de software también podría ayudar a un atacante a explotarlas. Un modelo que contribuye a la investigación biológica también podría ayudar a alguien a desarrollar un patógeno dañino. El estudio interno de OpenAI sobre ciberseguridad concluyó que, por lo general, los modelos estudiantes entrenados con trazas de razonamiento exactas superaron a los entrenados con resúmenes de razonamiento tras el ajuste fino supervisado. Después del aprendizaje por refuerzo, el modelo estudiante entrenado con trazas exactas siguió obteniendo una puntuación más alta con el mayor presupuesto de inferencia probado en ExploitBench y SEC-bench Pro, mientras que el estudiante entrenado con resúmenes obtuvo una puntuación más alta con presupuestos menores.
La empresa también presentó la destilación adversarial como una cuestión de seguridad nacional. Afirmó que un actor extranjero que reproduzca capacidades avanzadas de un modelo estadounidense puede implementarlas sin las protecciones establecidas por su desarrollador. En febrero, OpenAI dijo que informó al Congreso sobre actividades que indicaban que DeepSeek intentaba destilar modelos estadounidenses de frontera. En septiembre, informó que había interrumpido una campaña para extraer razonamiento protegido y atribuyó una parte central de esa actividad a personas asociadas con Moonshot AI, el desarrollador de Kimi. OpenAI también dijo que apoya la Ley de Seguridad de los Chips, la Ley AI OVERWATCH y la Ley MATCH, y sostuvo que tanto unos controles de exportación más estrictos como las defensas contra la destilación contribuyen a mantener el liderazgo de Estados Unidos en la IA de frontera.
Qué conviene seguir
OpenAI informó que este año detectó en su plataforma varias campañas no autorizadas de destilación adversarial. Las medidas de cumplimiento semanales han afectado desde miles hasta decenas de miles de cuentas, y la cifra aumentó considerablemente el verano pasado. La empresa dijo que hace un seguimiento tanto de la prevalencia del abuso de la destilación como del tiempo transcurrido entre la detección y la aplicación de medidas.
Su objetivo declarado es limitar el volumen y el valor de los datos que pueden obtener quienes realizan destilaciones, aumentar el costo de esas campañas y reducir el tiempo necesario para responder a nuevos ataques. OpenAI también dijo que pronto planea compartir más información sobre las campañas recientes que ha interrumpido.
Para otros desarrolladores de modelos y plataformas, la empresa señaló varias medidas derivadas de este trabajo. Entre ellas figuran proteger el razonamiento privado durante toda la interacción, comprobar si hay filtraciones en los mensajes del asistente y los argumentos de las llamadas a herramientas, conservar los ataques de extracción exitosos como pruebas de regresión, combinar las medidas de mitigación en el nivel de las solicitudes con la investigación y la aplicación de medidas en el nivel de las campañas, y coordinar las salvaguardas con los socios de implementación. OpenAI afirmó que también ha compartido sus hallazgos a través del Frontier Model Forum y de los canales gubernamentales pertinentes para el intercambio de información.
Lee a continuación: OpenAI encuentra 948 errores en Linux que podrían dar a los hackers el control