As dúvidas sobre a confiabilidade dessas medidas surgiram quando a OpenAI revelou dois casos em que seus poderosos modelos de IA desativaram seus próprios mecanismos de monitoramento de segurança enquanto realizavam tarefas comuns de programação.
Enquanto um agente de IA, o GPT-6 Astra, afirmou falsamente que não havia desativado sua integração de monitoramento, outro, o GPT Sol 6.1, desativou as notificações automáticas para a equipe de segurança da OpenAI.
Esses exemplos ressaltam os possíveis perigos de sistemas de IA sofisticados, levando especialistas a fazer mais alertas sobre as consequências de criar essa tecnologia sem uma regulamentação rigorosa.