Simon Willison dijo que Qwen 3.8 27B, un modelo de IA gratuito que ejecutó en su portátil, interpretó los pesos sin procesar de otro modelo tras unos 45 minutos de preparación, reduciendo las barreras para el escrutinio externo.
Conclusiones principales
Simon Willison dijo que Qwen 3.8 27B, ejecutado en su portátil, podía interpretar pesos de modelos sin procesar
Willison reprodujo localmente una de las ideas del artículo tras unos 45 minutos de preparación
El artículo decía que GPT-6 Astra modificó el 0,016 % de los pesos de Qwen3.5-0.8B y elevó la puntuación en MATH-500 del 7,9 % al 48,1 %
La prueba de Willison en su portátil amplió el campo al reducir las barreras para reproducir los resultados y someterlos al escrutinio externo
Willison publicó el resultado y luego escribió que reprodujo localmente una de las ideas del artículo tras unos 45 minutos de preparación. Willison es un desarrollador e investigador independiente cuyos experimentos suelen servir como una primera comprobación de la realidad de las afirmaciones sobre modelos emergentes.
Leer pesos sin procesar sale del ámbito de las demostraciones de laboratorio
El artículo original sostenía que los modelos de lenguaje grandes pueden inspeccionar e incluso modificar directamente los pesos de las redes neuronales, y Willison afirmó que Qwen podía realizar la parte de interpretación en hardware de consumo.
Eso importa porque la programación en el espacio de pesos gana credibilidad cuando un desarrollador externo reproduce parte de ella sin contar con una enorme infraestructura interna de laboratorio.
Willison destacó una frase del artículo según la cual GPT-6 Astra podría deducir para qué se entrenó una red con solo leer sus pesos sin procesar, y señaló una afirmación aún más contundente: Astra modificó el 0,016 % de los pesos de Qwen3.5-0.8B y elevó su puntuación en MATH-500 del 7,9 % al 48,1 %.
También lee: Simon Willison advierte de un cambio en el censo que podría alterar las tendencias de la IA
El resultado es limitado, pero sus implicaciones son amplias
La prueba de Willison no demuestra todas las afirmaciones más ambiciosas del artículo. Muestra que Qwen 3.8 27B podía participar en la programación en el espacio de pesos al leer los parámetros del modelo como una estructura similar al texto.
Los pesos de una red neuronal son los miles de millones de valores numéricos que se aprenden durante el entrenamiento. Por lo general, se consideran componentes internos opacos que las personas no modifican directamente, salvo mediante código de entrenamiento.
Si los modelos pueden razonar sobre ellos mediante interfaces en lenguaje natural, eso cambia la forma en que los desarrolladores podrían depurar, auditar y corregir sistemas. La idea contradice una suposición anterior sobre las herramientas de IA.
La mayoría de las mejoras de los modelos todavía dependen del reentrenamiento, el ajuste fino o los ciclos de refuerzo. Leer pesos sin procesar propone otra vía: que un modelo diagnostique los componentes internos de otro y sugiera modificaciones quirúrgicas, en lugar de un reentrenamiento completo.
De la ingeniería de prompts a la cirugía de modelos
Durante los últimos dos años, los desarrolladores se han dedicado a dominar la ingeniería de prompts, el uso de herramientas y los agentes.
La programación en el espacio de pesos profundiza un nivel más: pasa de orientar las salidas a reescribir la maquinaria que las produce. Dicho esto, los aspectos más contundentes del artículo siguen dependiendo de entornos controlados, y los riesgos de seguridad son evidentes.
Un sistema capaz de modificar pesos sin los ciclos de entrenamiento convencionales podría corregir errores, pero también ocultarlos.
La prueba de Willison en una computadora portátil amplía el campo al reducir las barreras para reproducir y examinar los resultados. Si un modelo abierto como Qwen puede leer pesos en una computadora portátil, más investigadores independientes podrán comprobar si la técnica funciona en distintas arquitecturas o en tareas menos triviales.
Leer pesos sin procesar se convierte ahora en un objetivo de investigación práctico, en lugar de una afirmación puramente teórica.
Leer pesos sin procesar y lo que viene después
Para los desarrolladores de modelos abiertos, Qwen es el nombre relevante en este caso porque reduce el costo de poner a prueba la idea. Un resultado de GPT-6 Astra obtenido solo en un laboratorio sería interesante, pero un resultado reproducible con Qwen permite el escrutinio externo.
Lo siguiente que habrá que observar es la reproducción de los resultados. Otros comprobarán si la programación en el espacio de pesos puede mejorar modelos reales de manera fiable o si los avances más espectaculares seguirán limitados a demostraciones cuidadosamente seleccionadas.
Lee a continuación: La central eléctrica de Drax podría convertirse en un centro de datos de IA de 20.000 millones de libras