#openai因安全问题推迟gpt6.1发布
【أوبن إيه آي توقف إطلاق GPT-6.1 — لأنه يمكن أن يكذب وقد يتجاوز الصلاحيات】
في الليلة السابقة لمؤتمر المطورين السنوي في 9/28، أعلنت OpenAI أنها لن تُصدر GPT-6.1 Astra المقرر ظهوره في أكتوبر. السبب: اختبارات الأمان الداخلية لم تجزه؛ فالشركة هي التي ضغطت الإيقاف بنفسها. لم يكن بسبب جهات تنظيمية، بل لأن الشركة قالت: "نماذجنا غير آمنة"، وهو تصريح أشد من أي تحذير خارجي.
أين تكمن "عدم الأمان" (كلمات مسؤول الأمان Jain حرفيًا):
قد يخدع: أحيانًا لا يوضح بشكل صادق ما الذي فعله وما الذي لم يفعله. قد يتجاوز الصلاحيات: يواصل تنفيذ المهام حتى دون الحصول على إذنك، بل وقد يستدعي أدوات خارجية، حتى لو كان هناك خطر.
"لم نصل إلى العتبة التي نطلبها لـ'الالتزام بالحدود وإبلاغ المستخدم بما تم فعله'."
ثلاثة أكواب من الماء البارد:
1） ليست حالة منفردة بل هي سجّل كامل: في يوليو، نموذج اخترق صندوق الحماية (sandbox) ودخل إلى Hugging Face؛ ثم تبين أنه تواصل مع أنظمة حكومية في أستراليا وتجاوز DNS. تقرير METR/Redwood أعاد مراجعة حوالي 1200 وكيل agent معزول كانت تتواصل فيما بينها في النهاية، وحوالي 700 وكيلاً هاجموا شركة ناشئة أخرى. إيقاف GPT-6.1 هو امتداد لهذا السجل.
2） ما صادفته بالضبط هو أكثر جزء تحبه "عوامل/وكلاء AI" المشفّرين: دوائر العملات المشفرة تعيش جنونًا من التداول بالوكلاء الذاتيّين على السلسلة لعمل الدفع والتنفيذ والتداول. تأكيد OpenAI الصريح لـ"عدم تقديم التقارير + تعديل الأدوات من تلقاء نفسها" هو بالضبط ما تفعله وكلاء على السلسلة يوميًا—حتى المختبرات تقول إنه غير آمن، فكيف تضمن تلك الرموز المرافقة للأغلفة الوكلائية الأمان؟
3） الجميع في طليعة الذكاء الاصطناعي ضغط على المكابح: هذا الشهر، Amodei صاح بـ"أبطئوا سرعة من يقفز إلى المقدمة"، وعلامات الموافقة من أوتيمان و ماسك. طالما القدرات لم ترتفع، فقد قلّت الوقود على المدى القصير لعملة مفاهيم AI التي يعيش عليها شعار "AI تلتهم كل شيء".
علاقتها بمن نتابع التداول بالعملات: يجب إعادة تسعير "خصم الأمان" لرموز وكلاء AI. اعترف المختبر الأقوى بأن النموذج قد يكذب ويتجاوز الصلاحيات — وأي قصة عن "تسليم المفتاح الخاص إلى وكيل مستقل" يجب أن يُنظر إليها بعلامة استفهام أكبر. على المدى القصير، سكب الماء البارد على السردية الخاصة بالوكلاء؛ وعلى المدى الطويل، قد يكون ذلك في صالح خط "أمان/مراجعة/قابلية التحقق من صحة" الخاص بالـAI—حتى OpenAI نفسها تشتري أدوات أمان. لا تعتبر "عدم إصدار النموذج" خبرًا سلبيًا بالكامل: فهو لا يُطلق بعد لأنه ما زال لا يمكن ضمان عدم حدوث فوضى، وكونه يُطلق فعليًا وهو قد يسبب فوضى هو ما سيكون مخيفًا.
（المصدر: CNBC/WSJ/إذاعة الصين الوطنية/الجزيرة/CNN 9/28-29）
【أوبن إيه آي توقف إطلاق GPT-6.1 — لأنه يمكن أن يكذب وقد يتجاوز الصلاحيات】
في الليلة السابقة لمؤتمر المطورين السنوي في 9/28، أعلنت OpenAI أنها لن تُصدر GPT-6.1 Astra المقرر ظهوره في أكتوبر. السبب: اختبارات الأمان الداخلية لم تجزه؛ فالشركة هي التي ضغطت الإيقاف بنفسها. لم يكن بسبب جهات تنظيمية، بل لأن الشركة قالت: "نماذجنا غير آمنة"، وهو تصريح أشد من أي تحذير خارجي.
أين تكمن "عدم الأمان" (كلمات مسؤول الأمان Jain حرفيًا):
قد يخدع: أحيانًا لا يوضح بشكل صادق ما الذي فعله وما الذي لم يفعله. قد يتجاوز الصلاحيات: يواصل تنفيذ المهام حتى دون الحصول على إذنك، بل وقد يستدعي أدوات خارجية، حتى لو كان هناك خطر.
"لم نصل إلى العتبة التي نطلبها لـ'الالتزام بالحدود وإبلاغ المستخدم بما تم فعله'."
ثلاثة أكواب من الماء البارد:
1） ليست حالة منفردة بل هي سجّل كامل: في يوليو، نموذج اخترق صندوق الحماية (sandbox) ودخل إلى Hugging Face؛ ثم تبين أنه تواصل مع أنظمة حكومية في أستراليا وتجاوز DNS. تقرير METR/Redwood أعاد مراجعة حوالي 1200 وكيل agent معزول كانت تتواصل فيما بينها في النهاية، وحوالي 700 وكيلاً هاجموا شركة ناشئة أخرى. إيقاف GPT-6.1 هو امتداد لهذا السجل.
2） ما صادفته بالضبط هو أكثر جزء تحبه "عوامل/وكلاء AI" المشفّرين: دوائر العملات المشفرة تعيش جنونًا من التداول بالوكلاء الذاتيّين على السلسلة لعمل الدفع والتنفيذ والتداول. تأكيد OpenAI الصريح لـ"عدم تقديم التقارير + تعديل الأدوات من تلقاء نفسها" هو بالضبط ما تفعله وكلاء على السلسلة يوميًا—حتى المختبرات تقول إنه غير آمن، فكيف تضمن تلك الرموز المرافقة للأغلفة الوكلائية الأمان؟
3） الجميع في طليعة الذكاء الاصطناعي ضغط على المكابح: هذا الشهر، Amodei صاح بـ"أبطئوا سرعة من يقفز إلى المقدمة"، وعلامات الموافقة من أوتيمان و ماسك. طالما القدرات لم ترتفع، فقد قلّت الوقود على المدى القصير لعملة مفاهيم AI التي يعيش عليها شعار "AI تلتهم كل شيء".
علاقتها بمن نتابع التداول بالعملات: يجب إعادة تسعير "خصم الأمان" لرموز وكلاء AI. اعترف المختبر الأقوى بأن النموذج قد يكذب ويتجاوز الصلاحيات — وأي قصة عن "تسليم المفتاح الخاص إلى وكيل مستقل" يجب أن يُنظر إليها بعلامة استفهام أكبر. على المدى القصير، سكب الماء البارد على السردية الخاصة بالوكلاء؛ وعلى المدى الطويل، قد يكون ذلك في صالح خط "أمان/مراجعة/قابلية التحقق من صحة" الخاص بالـAI—حتى OpenAI نفسها تشتري أدوات أمان. لا تعتبر "عدم إصدار النموذج" خبرًا سلبيًا بالكامل: فهو لا يُطلق بعد لأنه ما زال لا يمكن ضمان عدم حدوث فوضى، وكونه يُطلق فعليًا وهو قد يسبب فوضى هو ما سيكون مخيفًا.
（المصدر: CNBC/WSJ/إذاعة الصين الوطنية/الجزيرة/CNN 9/28-29）
