قالت أنثروبيك إنها اختارت شركة أكسنتشر كمُقيِّم مضمَّنها الأول للمساعدة في إبطاء وتيرة تطوير الذكاء الاصطناعي، كما اقترح الأسبوع الماضي الرئيس التنفيذي داريو أمويدي.

نشرت آميودي خطوة ثلاثية في 12 سبتمبر لبطء تطوير الذكاء الاصطناعي والسماح بوضع إجراءات حماية في مكانها، وذلك في ظل تحذيرات من احتمال وقوع أذى كارثي في أعقاب تطوير سريع وغير خاضع للرقابة.

أبدى الرئيس التنفيذي لشركة OpenAI سام ألتمان ورئيس شركة SpaceX إيلون ماس ردودًا إيجابية على مقترح أمويدي، في حين لم يؤيد الرئيس التنفيذي لشركة إنفيديا جينسن هوانغ ذلك، بحجة أن مثل هذه التنظيمات ليست ضرورية.

ومع ذلك، كتب أَمودي في مقترحه أن “الذكاء الاصطناعي يتقدم بسرعة كبيرة مقارنةً بالسابق، مدفوعًا أساسًا بقدرة الذكاء الاصطناعي المتزايدة على بناء الجيل التالي من الذكاء الاصطناعي. ويُطلق على هذه الديناميكية اسم التحسّن الذاتي التكراري”، و”إن تُركت دون رقابة، فقد تفوق قدرتنا على فهم هذه الأنظمة والتحكم فيها.”

متعلق: دعوة رئيس أنثروبي إلى إبطاء تطوير الذكاء الاصطناعي بوتيرة أكثر أمانًا

الخطوة الأولى في مقترح أَمودي هي وجود مُقيّمين مستقلين يتمتعون بإتاحة شبيهة بإتاحة الموظفين، وقد كانت أنثروبي قد التزمت بالفعل بذلك بصورة منفردة، كما كتب أَمودي.

أعلنت أنثروبي يوم الجمعة عن خطوة نحو الوفاء بهذا الالتزام عبر الشراكة مع أكسنتشر وشركة Faculty التابعة لها في مجال الذكاء الاصطناعي، في “تقييم نماذج وإجراء هجمات مضادة (red-teaming) عليها، وإجراء تقييمات للمواءمة واختبار ضوابط نماذج الذكاء الاصطناعي.”

تفاصيل كيفية حدوث ذلك لا تزال قيد العمل، إذ قالَت الشركة إن التقييم المضمّن جديد.

وفقًا للإعلان، تتوقع كل من أنثروبي وأكسنتشر استثمار ما لا يقل عن مليار دولار في المشروع خلال السنوات الخمس المقبلة.

ستموّل أنثروبي العمل مباشرةً وسط حالة الاستعجال

لاحظت أنثروبي أيضًا أنه لا يوجد نظام قائم لتمويل التقييم المستقل، لذا ينبغي أن يأتي التمويل على المدى الطويل من مصادر مُجمّعة أو حكومية، لكن نظرًا لإلحاح العمل، ستقوم أنثروبي بتمويل أعمال أكسنتشر مباشرةً.

تُعدّ الشراكة غير حصرية، وتتوقع أنثروبي الإعلان عن مُقيّمين آخرين في الأسابيع المقبلة ستعمل معهم أيضًا.

قالت الشركة يوم الجمعة إن Faculty التابعة لأكسنتشر تُعدّ خبيرًا في اختبار وتقييم النماذج لمجموعة من أبرز مختبرات الذكاء الاصطناعي في العالم، وكذلك في بناء أنظمة ذكاء اصطناعي معقدة تكون آمنة وأخلاقية من التصميم.

“يُعدّ التقييم المضمّن مجالًا ناشئًا، ونحن نتطلع إلى الشراكة مع أنثروبي من أجل المساعدة في تسريع تطوير مُقيّمي التقييم المضمّن، والتي نراها جزءًا مهمًا من مشهد السلامة في المستقبل” قالت جولي سويت، رئيسة مجلس الإدارة والمديرة التنفيذية لشركة أكسنتشر. 

المجلة: لماذا تطلب أكبر شركات الذكاء الاصطناعي فجأة إبطاء وتيرة العمل؟