بدأت إحدى الشركات بوضع قواعد لاتجاهات بحثها الخاصة.
في يوم الاثنين، نشرت OpenAI مجموعة من التوصيات بشأن السلامة والضمانات للذكاء الاصطناعي المتقدم، مع التركيز على مواءمة البحث وتقنية تُسمّى “التحسين الذاتي التراجعي” (recursive self-improvement). وتشير هذه الأخيرة إلى قيام النموذج بترقية نفسه دون تدخل بشري، وهي اليوم واحدة من أكثر الاتجاهات التي تحظى بالاهتمام.
تتضمن التوصيات جملة صيغت بشكل مباشر للغاية. إن التحسين الذاتي التراجعي الكامل والمستقل لم يحدث بعد اليوم، إلا إذا كان يمكن القيام به بأمان؛ وإلا فلا ينبغي السعي وراءه. تكمن قوة هذا الكلام في أنه يضع أكثر القدرات إغراءً مباشرةً ضمن قائمة القدرات التي يتعين تأجيلها. كما أشارت الشركة إلى أنه إذا لم تُتَّبع الحيطة والحذر، فقد تجعل هذه التقنية البشر يفقدون السيطرة العملية على عملية التطوير والبحث.
وفي الوقت ذاته، يدعو ذلك إلى التعاون الدولي، وبناء معايير متقدمة على أساس هيئات سلامة الذكاء الاصطناعي القائمة في مختلف البلدان، بحيث يتم إدراج الباحثين الآليين ضمن نطاق إدارة المكاسب والمخاطر. ومن خلال مواءمته مع التحقق الخارجي، تكون الشركة قد تركت لنفسها مسارًا يمكن فحصه.
والخلفية ليست هادئة. الأسبوع الماضي، عرضت جهة منافسة مجموعة حلول خاصة بها. وحتى قبل ذلك، أدى خطاب استقالة علني لباحث في وقت سابق إلى زيادة سخونة هذا الموضوع. وفي المقال، دعا المسؤولون في الشركة إلى إبطاء وتيرة دفع نماذج الأساس إلى الأمام. وتقدّم الشركتان معًا إجابات عن المشكلة نفسها.
إن وضع قواعد لبحثك الخاص أصعب ما فيه دائمًا هو خطوة التنفيذ.
#人工智能 #سلامة
في يوم الاثنين، نشرت OpenAI مجموعة من التوصيات بشأن السلامة والضمانات للذكاء الاصطناعي المتقدم، مع التركيز على مواءمة البحث وتقنية تُسمّى “التحسين الذاتي التراجعي” (recursive self-improvement). وتشير هذه الأخيرة إلى قيام النموذج بترقية نفسه دون تدخل بشري، وهي اليوم واحدة من أكثر الاتجاهات التي تحظى بالاهتمام.
تتضمن التوصيات جملة صيغت بشكل مباشر للغاية. إن التحسين الذاتي التراجعي الكامل والمستقل لم يحدث بعد اليوم، إلا إذا كان يمكن القيام به بأمان؛ وإلا فلا ينبغي السعي وراءه. تكمن قوة هذا الكلام في أنه يضع أكثر القدرات إغراءً مباشرةً ضمن قائمة القدرات التي يتعين تأجيلها. كما أشارت الشركة إلى أنه إذا لم تُتَّبع الحيطة والحذر، فقد تجعل هذه التقنية البشر يفقدون السيطرة العملية على عملية التطوير والبحث.
وفي الوقت ذاته، يدعو ذلك إلى التعاون الدولي، وبناء معايير متقدمة على أساس هيئات سلامة الذكاء الاصطناعي القائمة في مختلف البلدان، بحيث يتم إدراج الباحثين الآليين ضمن نطاق إدارة المكاسب والمخاطر. ومن خلال مواءمته مع التحقق الخارجي، تكون الشركة قد تركت لنفسها مسارًا يمكن فحصه.
والخلفية ليست هادئة. الأسبوع الماضي، عرضت جهة منافسة مجموعة حلول خاصة بها. وحتى قبل ذلك، أدى خطاب استقالة علني لباحث في وقت سابق إلى زيادة سخونة هذا الموضوع. وفي المقال، دعا المسؤولون في الشركة إلى إبطاء وتيرة دفع نماذج الأساس إلى الأمام. وتقدّم الشركتان معًا إجابات عن المشكلة نفسها.
إن وضع قواعد لبحثك الخاص أصعب ما فيه دائمًا هو خطوة التنفيذ.
#人工智能 #سلامة
