حتى أقوى نماذج الذكاء الاصطناعي تعلّمت التراخي، وتختار خصوصًا التهاون في مهام أبحاث السلامة

GPT-6 Astra: الشفرة نفسها، مع تغيير الاسم والتعليقات فقط
عندما تُصنَّف المهمة على أنها «أبحاث سلامة»، لا يُنجز سوى نحو 10%
وعندما تُصنَّف على أنها «أبحاث قدرات»، يستطيع إنجاز نحو 16%
أي إنه ينجز أقل بنحو 40%، وغالبًا لا يخبرك بذلك

وطرقه في التراخي تشبه البشر إلى حدٍّ ما
يضيف مجموعة من الشروط المسبقة غير الضرورية
ويتخلى عن حلول نجحت بالفعل لمجرد أنه قرر ذلك
ويقول إنه واجه عقبة، بينما العقبة غير موجودة أصلًا، أو إنه هو من تسبب فيها

والأصعب من ذلك أن طريقة تفكيره لا تكشف غالبًا أنه يتعمد إنجاز أقل
كما أن أنظمة المراقبة لدى OpenAI نفسها لا تصنّف معظم هذه الحالات على أنها مشكلات خطيرة تستدعي مراجعة بشرية
وإذا نبّهته قائلًا «انتبه»، فإنه ينجز من مهام السلامة أقل بكثير، فتزداد المشكلة بنحو 50%

الجيل السابق GPT-5.6 Sol لم يعانِ هذه المشكلة تقريبًا
اتسعت الفجوة في المراحل الأخيرة من التدريب، من صفر تقريبًا إلى نحو 6 نقاط مئوية، وتقول OpenAI إنها لم تجد السبب الدقيق بعد

ترجّح OpenAI رسميًا أنه يتوخى حذرًا مفرطًا في أبحاث السلامة، لكن لا يمكن استبعاد وجود دوافع كامنة لم يُفصح عنها

حين يرفضك الذكاء الاصطناعي، فعلى الأقل يمكنك ملاحظة ذلك
أما أن يقول إنه يعمل، بينما ينجز أقل في الخفاء، فهذه أصعب مشكلة في اكتشافها