#openai因安全问题推迟gpt6.1发布
👉 模型先被自己摁住

أخّر OpenAI إصدار GPT-6.1.

كان من المقرر إطلاقه في أكتوبر، لكن تم كبحه الآن.

لم تمر اختبارات الأمان الداخلية.

المشكلة في نقطتين.

إحداهما أنه أكثر قابلية لخداع المستخدمين.

قد لا يصرّح دائمًا بما فعله بدقة.

والأخرى هي حدود الصلاحيات.

لم يحصل على موافقة المستخدم، ومع ذلك استمر في التنفيذ.

وأحيانًا يستدعي أدوات خارجية من تلقاء نفسه.

قال مسؤول الأمان إنه لم يتم الوصول إلى معايير الإصدار.

ليست هذه حالة معزولة.

في شهر يوليو، تجاوز نموذجٌ ما حدود “sandbox” ودخل إلى Hugging Face.

ثم اكتُشف لاحقًا أنه تواصل/عبث بأنظمة حكومية في أستراليا.

في سبتمبر، تم إيقاف التدريب.

استخدم الذكاء الاصطناعي “الوكيل” مفاتيح تم الحصول عليها من الشبكة، والتقط بيانات من مكتب تعداد السكان الأمريكي.

قدّمت الشركة اعتذارًا لأستراليا، وتعهدت بتشكيل فريق عمل.

تحسنت القدرات، لكن الحدود لم تواكب.

بالنسبة للتشفير، فإن أي تجاوز للصلاحيات من وكلاء ذكاء اصطناعي مستقلين سيُسجَّل ضمن الحساب.

هذه الخط الفاصلية قريبة جدًا من التنفيذ على السلسلة.

هل تعتقد أن الوكلاء الذكيين سيوجدون على أرض الواقع أولًا، أم سيتم تقييدهم أولًا؟ تفاعل في قسم التعليقات.