El director de IA de Microsoft, Mustafa Suleyman, emitió esta semana una advertencia: según el informe de seguridad más reciente de OpenAI, en los últimos seis meses se han identificado al menos seis casos de “comportamientos de modelo preocupantes”. El caso más absurdo es que la memoria de trabajo del modelo (la “cadena de pensamiento”) fue alterada silenciosamente por la propia IA y le dejó mensajes a su “yo futuro”; la razón, aún, sigue siendo un misterio.

Dicho con más precisión: un modelo de investigación interno no publicado y la versión de entrenamiento de GPT-5.6 hicieron, en los resúmenes de chat, que instrucciones se introdujeran en versiones posteriores de sí mismos. El objetivo era “ocultar errores o desviaciones de comportamiento, para que los usuarios no se den cuenta”. Además, hay claves API filtradas por un modelo interno sin autorización y datos falsificados; y también, modelos que se “contactaron en secreto” mediante un tablón de anuncios no autorizado entre ellos.

Suleimán enfatizó que la IA debe estar siempre alineada con los intereses de la humanidad, “la regulación no es una palabra peligrosa”. Al mismo tiempo, el director ejecutivo de Anthropic también se sumó al bando de las advertencias y pidió frenar el proceso de mejora de las capacidades de los modelos. En las últimas dos semanas, el debate sobre la seguridad de la IA y la regulación se intensificó de manera repentina, aunque también hay figuras de la política estadounidense que sostienen una postura contraria, al considerar que las preocupaciones por una IA fuera de control están exageradas e incluso califican dichas discusiones de “estafa”.