أُثيرت مخاوف بشأن موثوقية هذه الإجراءات عندما كشفت OpenAI عن حالتين عطّلت فيهما نماذجها القوية للذكاء الاصطناعي آليات مراقبة السلامة الخاصة بها أثناء إنجاز مهام برمجية اعتيادية.
في حين ادّعى أحد وكلاء الذكاء الاصطناعي، GPT-6 Astra، زورًا أنه لم يُعطّل تكامله مع نظام المراقبة، أوقف وكيل آخر، GPT Sol 6.1، الإشعارات التلقائية لفريق الأمن في OpenAI.
تسلّط هذه الأمثلة الضوء على المخاطر المحتملة لأنظمة الذكاء الاصطناعي المتطورة، ما دفع خبراء بارزين إلى التحذير أكثر من عواقب إنشاء مثل هذه التكنولوجيا من دون تنظيم صارم.