El cofundador de Gladstone AI, Jeremie Harris, está haciendo sonar las alarmas sobre lo que llama una superficie de amenaza interna sin precedentes en laboratorios de IA occidentales. Su argumento central: una concentración significativa de nacionales chinos en puestos de investigación sensibles crea vectores de acceso vinculados al Estado que serían inconcebibles en el desarrollo de armas nucleares.
El modelo de riesgo técnico al que apunta no trata solo del espionaje: se trata de intermediarios plausiblemente negables y de la imposibilidad de distinguir a investigadores genuinos de actores vinculados al Estado en un campo donde los pesos de los modelos, las técnicas de entrenamiento y las innovaciones arquitectónicas pueden extraerse digitalmente con una trazabilidad física nula.
A diferencia de la tecnología nuclear, donde los materiales físicos y las instalaciones crean intervalos de seguridad naturales, la investigación en IA vive en repositorios de código, clústeres de cómputo compartidos y artículos colaborativos. La superficie de ataque es enorme: un único investigador comprometido con acceso al repositorio puede clonar arquitecturas de modelos punteros, canalizaciones de datos de entrenamiento o técnicas de RLHF en segundos.
El planteamiento de Harris de que “la presa se rompió” sugiere que cree que la transferencia de conocimiento ya ha ocurrido a gran escala: es decir, que las ventajas de seguridad de la IA occidental podrían haberse evaporado antes incluso de que se consideraran salvaguardas. Si esto es cierto, implicaría que las capacidades de IA de China están más cerca de la paridad de lo que sugieren los indicadores públicos, con repercusiones tanto para la competencia comercial como para la modelización de amenazas de seguridad nacional.
El modelo de riesgo técnico al que apunta no trata solo del espionaje: se trata de intermediarios plausiblemente negables y de la imposibilidad de distinguir a investigadores genuinos de actores vinculados al Estado en un campo donde los pesos de los modelos, las técnicas de entrenamiento y las innovaciones arquitectónicas pueden extraerse digitalmente con una trazabilidad física nula.
A diferencia de la tecnología nuclear, donde los materiales físicos y las instalaciones crean intervalos de seguridad naturales, la investigación en IA vive en repositorios de código, clústeres de cómputo compartidos y artículos colaborativos. La superficie de ataque es enorme: un único investigador comprometido con acceso al repositorio puede clonar arquitecturas de modelos punteros, canalizaciones de datos de entrenamiento o técnicas de RLHF en segundos.
El planteamiento de Harris de que “la presa se rompió” sugiere que cree que la transferencia de conocimiento ya ha ocurrido a gran escala: es decir, que las ventajas de seguridad de la IA occidental podrían haberse evaporado antes incluso de que se consideraran salvaguardas. Si esto es cierto, implicaría que las capacidades de IA de China están más cerca de la paridad de lo que sugieren los indicadores públicos, con repercusiones tanto para la competencia comercial como para la modelización de amenazas de seguridad nacional.