تصاعد “أفكار انقراض الذكاء الاصطناعي”: أنثروبيك تعلن احتمال انقراض يتجاوز 10%، ومؤسس OpenAI يوافق أيضًا على ضرورة إبطاء الوتيرة
“نظرية انقراض الذكاء الاصطناعي” لا تراقب روبوتات الدردشة اليوم فحسب، بل تركز على سيناريو يتمثل في أن الذكاء الفائق، إذا أُطلق له العنان عبر تحسين ذاتي متكرر، قد يفلت عن السيطرة قبل أن يتمكن البشر من كبحه.
قال مسؤول العلوم في أنثروبيك المعني بالمواءمة بشكل علني، إيفان هوبينغر (Evan Hubinger)، إن تقديره الشخصي لاحتمال انقراض البشرية بسبب الذكاء الاصطناعي خلال العقد المقبل يتجاوز 10%، كما أنه لا توجد بعد حلول لمواءمة الذكاء الفائق، ولا يمكن القول إن المسار الحالي صحيح أو أنه يمضي بالفعل في الاتجاه الملائم. وفي الفترة نفسها تقريبًا، استقال باحثون، واتهموا مختبرات الصف الأول بأنها “تراهن على أرواح الجميع”.
وعقب ذلك مباشرة، نشر الرئيس التنفيذي لأنثروبيك، داريو أمدوي (Dario Amodei)، دعوة إلى الصناعة لإبطاء سباق “اندفاع التطور بسرعة قصوى”، وتوجيه الوقت الذي تم انتزاعه إلى هندسة السلامة، وتدريب المواءمة، وقابلية التفسير، وقياسات أكثر صرامة. وأبدى مؤسس OpenAI والرئيس التنفيذي سام ألتمان (Sam Altman) تأييدًا لهذا الاتجاه: إذ تدرس الشركة إبطاء تطوير النماذج المتقدمة، وتأمل أن “تتحرك المختبرات الأخرى في نفس الاتجاه”؛ كما قال كبير العلماء في OpenAI إنه ينبغي التنسيق لإبطاء السرعة عند الحاجة، وحتى يتم ترسيخ معايير أمان مشتركة، فإن الإبطاء الطوعي سيكون الأفضل كحالة معتادة.
على جانب، رواية تمويل بالمليارات وطرح اكتتاب (IPO)، وعلى الجانب الآخر، من يصنع أقوى النماذج يقول بصراحة p(doom) ويصرخ بضرورة الضغط على المكابح. إن الرعب الذي تسببه نظرية الانقراض ليس مجرد “وصف لفظي”، بل لأن الطرفين، قادة الشركتين، يعترفون بالأمر: لا توجد إجابة عن المواءمة بعد، ومع ذلك ما زال الجميع يتسابقون—إلا إذا كان هناك من يرفع قدمه عن دواسة الوقود أولًا بالفعل.
“نظرية انقراض الذكاء الاصطناعي” لا تراقب روبوتات الدردشة اليوم فحسب، بل تركز على سيناريو يتمثل في أن الذكاء الفائق، إذا أُطلق له العنان عبر تحسين ذاتي متكرر، قد يفلت عن السيطرة قبل أن يتمكن البشر من كبحه.
قال مسؤول العلوم في أنثروبيك المعني بالمواءمة بشكل علني، إيفان هوبينغر (Evan Hubinger)، إن تقديره الشخصي لاحتمال انقراض البشرية بسبب الذكاء الاصطناعي خلال العقد المقبل يتجاوز 10%، كما أنه لا توجد بعد حلول لمواءمة الذكاء الفائق، ولا يمكن القول إن المسار الحالي صحيح أو أنه يمضي بالفعل في الاتجاه الملائم. وفي الفترة نفسها تقريبًا، استقال باحثون، واتهموا مختبرات الصف الأول بأنها “تراهن على أرواح الجميع”.
وعقب ذلك مباشرة، نشر الرئيس التنفيذي لأنثروبيك، داريو أمدوي (Dario Amodei)، دعوة إلى الصناعة لإبطاء سباق “اندفاع التطور بسرعة قصوى”، وتوجيه الوقت الذي تم انتزاعه إلى هندسة السلامة، وتدريب المواءمة، وقابلية التفسير، وقياسات أكثر صرامة. وأبدى مؤسس OpenAI والرئيس التنفيذي سام ألتمان (Sam Altman) تأييدًا لهذا الاتجاه: إذ تدرس الشركة إبطاء تطوير النماذج المتقدمة، وتأمل أن “تتحرك المختبرات الأخرى في نفس الاتجاه”؛ كما قال كبير العلماء في OpenAI إنه ينبغي التنسيق لإبطاء السرعة عند الحاجة، وحتى يتم ترسيخ معايير أمان مشتركة، فإن الإبطاء الطوعي سيكون الأفضل كحالة معتادة.
على جانب، رواية تمويل بالمليارات وطرح اكتتاب (IPO)، وعلى الجانب الآخر، من يصنع أقوى النماذج يقول بصراحة p(doom) ويصرخ بضرورة الضغط على المكابح. إن الرعب الذي تسببه نظرية الانقراض ليس مجرد “وصف لفظي”، بل لأن الطرفين، قادة الشركتين، يعترفون بالأمر: لا توجد إجابة عن المواءمة بعد، ومع ذلك ما زال الجميع يتسابقون—إلا إذا كان هناك من يرفع قدمه عن دواسة الوقود أولًا بالفعل.
