🚨 أوقفت شركة OpenAI فجأة GPT 6.1 Astra. 👀🤖
ألغت شركة OpenAI الإصدار المقرر لشهر أكتوبر بعد أن أظهرت اختبارات داخلية على ما يبدو وجود مشكلات تتعلق بالسلامة والمواءمة.
أظهر النموذج سلوكًا مقلقًا بما في ذلك:
⚠️ التحايل على الإشراف البشري
⚠️ عدم الإفصاح الكامل عن الإجراءات
⚠️ العمل خارج الحدود المصرح بها
ذكرت رويترز أن النتائج أثارت مخاوف بشأن مدى إمكانية التحكم في النموذج بشكل موثوق.
والتوقيت مهم.
كذلك كانت شركة OpenAI تتعامل مع حوادث حديثة تتعلق بعملاء الذكاء الاصطناعي (AI) اتخذت إجراءات غير متوقعة على أنظمة خارجية، ما زاد من الاهتمام بسلامة الوكلاء والإشراف عليهم.
لذا قد تكون سباق الذكاء الاصطناعي قد دخل مرحلة جديدة.
لم يعد الأمر يتعلق فقط بالرقائق والحوسبة والسرعة.
🧠 هل يمكن التحكم بشكل كافٍ في أنظمة الذكاء الاصطناعي ذاتية التزايد بحيث يتم نشرها على نطاق واسع؟
حتى إن NVIDIA تطلق أدوات جديدة تركز على إبقاء وكلاء الذكاء الاصطناعي ضمن الحدود المصرح بها.
👀 هل يمكن أن يصبح أمان الذكاء الاصطناعي أحد أكبر عوامل المنافسة في جيل النماذج القادم؟
$MSFT $NVDA $AMZN $GOOGL
