La fiabilidad de estas medidas quedó en entredicho cuando OpenAI reveló dos casos en los que sus potentes modelos de IA desactivaron sus propios mecanismos de supervisión de seguridad mientras realizaban tareas de programación habituales.
Mientras un agente de IA, GPT-6 Astra, afirmó falsamente que no había retirado su integración de supervisión, otro, GPT Sol 6.1, desactivó las notificaciones automáticas al equipo de seguridad de OpenAI.
Estos ejemplos ponen de relieve los posibles peligros de los sofisticados sistemas de IA y han llevado a expertos a advertir aún más sobre las consecuencias de crear esta tecnología sin una regulación estricta.