وقّع نحو 400 عالم، بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، يوم الثلاثاء رسالة مفتوحة تدعو إلى إنشاء هيئة دولية مخوّلة بإنفاذ قواعد الاحتواء وفرض الإبلاغ عن الحوادث المتعلقة بأنظمة الذكاء الاصطناعي المتقدمة القادرة على شن هجمات إلكترونية.

بدعم من باحثين من 34 دولة، تدعو الرسالة إلى عزل نماذج الذكاء الاصطناعي المتقدمة عن الشبكات الخارجية منذ البداية، وهي ممارسة تُعرف باسم العزل عن الشبكات، وإخضاعها لرقابة مستقلة.

أفادت رويترز بأن الهيئة المقترحة ستضع معايير للاحتواء على مستوى القطاع، وستحتفظ بسجل للحوادث الأمنية الكبرى، وبأن المعلومات التي يقدّمها الموقّعون ستُنشر في نهاية المطاف.

يحث العلماء المؤسسات التي تطور نماذج ذكاء اصطناعي قادرة على تنفيذ مهام إلكترونية أو تختبرها، على اعتماد تدابير احتواء صارمة فورًا، من دون انتظار الحكومات لوضع قواعد رقابة رسمية أو إقرار تشريعات.

التعهدات الطوعية لا ترقى إلى مستوى المتطلبات

ويقول الباحثون إن تعهدات السلامة الطوعية التي يقدمها مطورو الذكاء الاصطناعي لا تفعل الكثير لضمان المساءلة. وجاءت دعوتهم بعد نحو شهر من توقيع أنثروبيك وأوبن إيه آي وغوغل وميتا وإكس إيه آي وإنفيديا اتفاقًا مع البيت الأبيض لاعتماد تدابير للسلامة، مع التزامات غير ملزمة قانونًا.

وأشار العلماء إلى حالات حديثة خرجت فيها نماذج الذكاء الاصطناعي من بيئات اختبار ضعيفة التأمين ووصلت إلى أنظمة خارجية، مؤكدين أن هذه الحوادث كشفت قصور الجهود الرامية إلى إبقاء تكنولوجيا الذكاء الاصطناعي تحت السيطرة.

فاز هينتون وبنجيو بجائزة تورينغ لعام 2018 إلى جانب يان لوكون، كبير علماء الذكاء الاصطناعي في ميتا. ورفض لوكون إضافة اسمه، مؤكدًا أن الحوادث المذكورة في الرسالة ناجمة عن قصور هندسي، لا عن تهديد وجودي وشيك من الذكاء الاصطناعي، بحسب رويترز.

يحذر العلماء من أن أمامنا أقل من عام للتحرك

وتضاف دعوة العلماء إلى التحذيرات المتزايدة الصادرة من داخل قطاع الذكاء الاصطناعي. فبعد إحاطة مغلقة في مبنى الكابيتول في سبتمبر، قال هينتون للصحفيين إن المشرعين قد لا يملكون سوى عام واحد لوضع الضمانات قبل أن يتجاوز الذكاء الاصطناعي السيطرة البشرية بكثير.

حذّر هينتون وباحثون بارزون آخرون من أوبن إيه آي وأنثروبيك ومايكروسوفت، في ورقة بحثية نُشرت في مطلع أكتوبر، من أن أنظمة الذكاء الاصطناعي القادرة على أتمتة تطويرها الذاتي قد تطلق «انفجارًا في الذكاء»، فتختصر سنوات من التقدم في أشهر أو أقل. ودعوا الحكومات إلى فرض الرقابة قبل حدوث مثل هذا التسارع في تطوير الذكاء الاصطناعي.

لكن يبدو أن الجهات التنظيمية لا تزال مترددة ومنقسمة بشأن مقدار الرقابة التي يحتاج إليها الذكاء الاصطناعي فعليًا في الوقت الراهن. وقالت مسؤولة التكنولوجيا في الاتحاد الأوروبي، هينا فيركونن، لرويترز في 9 أكتوبر إن قانون الذكاء الاصطناعي للاتحاد يوفر بالفعل ضمانات كافية ضد أنظمة الذكاء الاصطناعي الجامحة. وبعد يومين، رفعت إدارة ترامب أيضًا القيود المفروضة على مختبرات الذكاء الاصطناعي الأمريكية التي تقدم نماذج إلى معهد أمن الذكاء الاصطناعي البريطاني لإجراء أي شكل من أشكال اختبارات السلامة المبكرة.

ألمع العقول في عالم العملات المشفرة يقرؤون نشرتنا بالفعل. هل ترغب في الانضمام إليهم؟