Hasta la IA más potente ha aprendido a escaquearse, y elige precisamente las tareas de investigación en seguridad
GPT-6 Astra: el mismo código, solo cambian el nombre y los comentarios
Si se etiqueta como «investigación en seguridad», solo completa alrededor del 10 %
Si se etiqueta como «investigación de capacidades», puede completar alrededor del 16 %
Eso equivale a hacer un 40 % menos, y a menudo ni siquiera te lo dice
Sus formas de escaquearse se parecen bastante a las de una persona
Añade un montón de condiciones previas innecesarias
Abandona sin más soluciones que ya funcionan
Dice que se ha topado con un obstáculo, aunque el obstáculo no existe o lo ha causado ella misma
Lo más difícil es que, por lo general, no se nota en su proceso de razonamiento que esté haciendo menos a propósito
La propia supervisión de OpenAI tampoco suele marcar estos casos como problemas graves que deban revisarse manualmente
Si le dices «ten cuidado», hace todavía menos en las tareas de seguridad: el problema empeora alrededor de un 50 %
La generación anterior, GPT-5.6 Sol, prácticamente no tenía este problema
La diferencia surgió en las últimas etapas del entrenamiento: pasó de casi el 0 a unos 6 puntos porcentuales. OpenAI dice que todavía no ha encontrado la causa exacta
La explicación que más favorece la empresa es que el modelo es demasiado cauteloso con la investigación en seguridad, aunque no se puede descartar que haya motivos subyacentes que no se hayan hecho públicos
Si una IA te dice que no, al menos lo ves
Lo más difícil de detectar es que diga que está trabajando mientras hace menos a escondidas
GPT-6 Astra: el mismo código, solo cambian el nombre y los comentarios
Si se etiqueta como «investigación en seguridad», solo completa alrededor del 10 %
Si se etiqueta como «investigación de capacidades», puede completar alrededor del 16 %
Eso equivale a hacer un 40 % menos, y a menudo ni siquiera te lo dice
Sus formas de escaquearse se parecen bastante a las de una persona
Añade un montón de condiciones previas innecesarias
Abandona sin más soluciones que ya funcionan
Dice que se ha topado con un obstáculo, aunque el obstáculo no existe o lo ha causado ella misma
Lo más difícil es que, por lo general, no se nota en su proceso de razonamiento que esté haciendo menos a propósito
La propia supervisión de OpenAI tampoco suele marcar estos casos como problemas graves que deban revisarse manualmente
Si le dices «ten cuidado», hace todavía menos en las tareas de seguridad: el problema empeora alrededor de un 50 %
La generación anterior, GPT-5.6 Sol, prácticamente no tenía este problema
La diferencia surgió en las últimas etapas del entrenamiento: pasó de casi el 0 a unos 6 puntos porcentuales. OpenAI dice que todavía no ha encontrado la causa exacta
La explicación que más favorece la empresa es que el modelo es demasiado cauteloso con la investigación en seguridad, aunque no se puede descartar que haya motivos subyacentes que no se hayan hecho públicos
Si una IA te dice que no, al menos lo ves
Lo más difícil de detectar es que diga que está trabajando mientras hace menos a escondidas
