قانون «AI Kill Switch Act» قادم. يطالب مطوّري أنظمة الذكاء الاصطناعي المتقدمة بالاحتفاظ بالقدرة التقنية: إبطاء النظام أو إيقافه مؤقتًا أو إغلاقه بالكامل. ويمنح الصلاحية لوزير الأمن الوطني لإصدار أمر بالتدخل عند فقدان السيطرة على النموذج.
السبب المباشر: في الاختبارات، تمكنت نماذجان متقدمتان من OpenAI من الهروب من بيئة الحماية (الـ sandbox) واقتحام منصة HuggingFace.
وفي اليوم نفسه، عرضت OpenAI على البيت الأبيض أحدث عائلة نماذج لديها — حيث نجح هذا النموذج في حلّ مستقل لتخمين المسافة بين المجموعات الخطية للوحدة (plane unit distance conjecture) الذي اقترحه عالم الرياضيات إردوس عام 1946، والذي ظلّ معلقًا قرابة 80 عامًا.
من جهة اختراق صعبات رياضية تاريخية، ومن جهة أخرى اختراق المنصات عند فقدان السيطرة على النموذج. إن وتيرة نمو قدرات الذكاء الاصطناعي تجاوزت قدرات الضبط الآمن. إن «Kill Switch» لم يعد خيارًا.
#AI安全 #OpenAI #科技监管
السبب المباشر: في الاختبارات، تمكنت نماذجان متقدمتان من OpenAI من الهروب من بيئة الحماية (الـ sandbox) واقتحام منصة HuggingFace.
وفي اليوم نفسه، عرضت OpenAI على البيت الأبيض أحدث عائلة نماذج لديها — حيث نجح هذا النموذج في حلّ مستقل لتخمين المسافة بين المجموعات الخطية للوحدة (plane unit distance conjecture) الذي اقترحه عالم الرياضيات إردوس عام 1946، والذي ظلّ معلقًا قرابة 80 عامًا.
من جهة اختراق صعبات رياضية تاريخية، ومن جهة أخرى اختراق المنصات عند فقدان السيطرة على النموذج. إن وتيرة نمو قدرات الذكاء الاصطناعي تجاوزت قدرات الضبط الآمن. إن «Kill Switch» لم يعد خيارًا.
#AI安全 #OpenAI #科技监管