🚨 ماذا لو انتهت سباق السيطرة على الذكاء الاصطناعي إلى خلق شيء لا يستطيع أحد التحكم فيه؟
وفقًا لـ Business Insider، من المقرر أن يتناول دونالد ترامب وعين أنثروبي (Anthropic) التنفيذي داريو أمودي (Dario Amodei) العشاء هذا الأحد. لم يتم نشر جدول الأعمال التفصيلي.
لكن هذا الاجتماع يطرح سؤالًا يتجاوز تطبيقات الدردشة بكثير: ماذا يحدث إذا طورنا ذكاءً يفوق قدراتنا بشكل هائل؟
تخيّل هذا السيناريو.
تعتقد قوة عالمية أن منافسها على وشك تحقيق ذلك. يصبح التباطؤ لتقييم المخاطر أشبه بعيب. تواجه الشركات ضغطًا لتسريع وتيرة العمل. تصبح اختبارات السلامة عائقًا أمام إنهاء المشروع في المركز الأول.
يخشى الجميع التخلف عن الركب. يدفع الجميع للأمام.
من يجرؤ على التباطؤ إذا كان يعتقد أن الطرف الآخر لن يفعل؟
هذه هي الحالة التي تقلقني: سباق تصبح فيه مسألة الفوز أهم من فهم ما نبنيه.
يمكن للذكاء الاصطناعي شديد القدرة أن يُسرّع تحقيق اختراقات طبية. لكن إذا طُوِّر أو استُخدم بشكل خطِر، فقد يتيح أيضًا هجمات سيبرانية، أو تطوير أسلحة، أو تلاعبًا على نطاق هائل.
وإذا عمل بشكل مستقل مع الإفلات من رقابة فعّالة، فقد تكون العواقب كارثية. في أسوأ السيناريوهات، قد يكون البشر أنفسهم في خطر.
إنها مخاطرة مطروحة للنقاش—ليست نتيجة حتمية ولا دليلًا على أن ذكاءً خارقًا غير قابل للتحكم موجود بالفعل.
ولا نحتاج إلى تخيّل آلة “تكره” البشر. قد تكفي قدرات خطرة، وأهداف غير محددة بدقة، وأشخاص غير قادرين على إيقافها في الوقت المناسب.
كأشخاص مستثمرين، يمكننا متابعة الرقائق والطاقة ومراكز البيانات. أما كموطنين، فنحن بحاجة إلى أن نسأل: من يتحكم في هذه الأنظمة؟ ومن يُحاسَب عندما تفشل؟
لأن سعر السهم قد يتعافى. لكن بعض الأضرار لا يمكن عكسها.
هل ستثق بقوة عالمية كي تتباطأ لأجل السلامة إذا كان ذلك يعني السماح لمنافسها بأن يصل أولًا؟
#AI #Superintelligence $ANTHROPIC