أعلنت OpenAI رسميًا إطلاق Control Room: «مفتاح إيقاف طارئ» لمهام النماذج في الجانب البحثي.
بمجرد أن يقرر نظام المراقبة أو أحد الأشخاص إيقاف مهمة، سيرفض محرك الاستدلال مواصلة توليد النص خلال مدة لا تتجاوز نحو 35 ثانية — إذ توجد آلية الإيقاف على مستوى أخذ العينات، ولا تعتمد على التزام نصوص الباحثين بالتوقف. وإذا تعطّل Control Room نفسه أو أُغلق، فسيتبع نهج «الإغلاق الآمن»: رفض جميع طلبات الاستدلال مباشرةً. وقد بدأ تطبيقه على أعباء عمل أبحاث النماذج المتقدمة، وسيُستكمل نقل بقية المهام البحثية تباعًا خلال الأيام القليلة المقبلة.
كلما ازدادت النماذج قوة، ازدادت أهمية القدرة على إيقافها فعلًا عند حدوث مشكلة. قد لا يكون هذا النظام مبهرًا من الناحية التقنية، لكنه أكثر موثوقية بكثير من مجرد القول: «يمكننا إيقافها».
#OpenAI #AI安全 #ControlRoom
بمجرد أن يقرر نظام المراقبة أو أحد الأشخاص إيقاف مهمة، سيرفض محرك الاستدلال مواصلة توليد النص خلال مدة لا تتجاوز نحو 35 ثانية — إذ توجد آلية الإيقاف على مستوى أخذ العينات، ولا تعتمد على التزام نصوص الباحثين بالتوقف. وإذا تعطّل Control Room نفسه أو أُغلق، فسيتبع نهج «الإغلاق الآمن»: رفض جميع طلبات الاستدلال مباشرةً. وقد بدأ تطبيقه على أعباء عمل أبحاث النماذج المتقدمة، وسيُستكمل نقل بقية المهام البحثية تباعًا خلال الأيام القليلة المقبلة.
كلما ازدادت النماذج قوة، ازدادت أهمية القدرة على إيقافها فعلًا عند حدوث مشكلة. قد لا يكون هذا النظام مبهرًا من الناحية التقنية، لكنه أكثر موثوقية بكثير من مجرد القول: «يمكننا إيقافها».
#OpenAI #AI安全 #ControlRoom
