يدخل قطاع صناعة الذكاء الاصطناعي مرحلة جديدة من الجدل: إلى أي مدى ينبغي أن يتقدم تطوير الذكاء الاصطناعي المتقدم بسرعة؟ دعا الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، إلى وتيرة أكثر حذرًا، بحجة أن قدرات الذكاء الاصطناعي تتقدم بسرعة، بينما قد لا تكون أنظمة السلامة والإشراف على المستوى نفسه.

قلق متزايد بشأن سلامة الذكاء الاصطناعي

يجادل مقال حديث لـ«آمادي» من شركة أوبن إيه آي، «يجب أن نُبطئ الجبهة»، بأن شركات الذكاء الاصطناعي الرائدة ينبغي أن تُبطّئ تطوير النماذج الأقوى بشكل متزايد لفترة كافية لتعزيز تدابير السلامة. وليست مقترحاته دعوة إلى إيقاف أبحاث الذكاء الاصطناعي بالكامل، بل تهدف إلى توفير مزيد من الوقت للاختبار والتقييم والتنسيق.

من بين توصياته الرئيسية استخدام مُقيّمين مستقلين للسلامة داخل شركات الذكاء الاصطناعي المتقدمة. وسيحصل هؤلاء المقيّمون على وصول كافٍ إلى الأنظمة المتقدمة لتحديد القدرات الخطِرة وإمكانيات إساءة الاستخدام قبل نشر النماذج على نطاق واسع.

كما دعا أمودي إلى تعاون أكبر بين مختبرات الذكاء الاصطناعي الرائدة والحكومات. ويتمثل الهدف في وضع معايير سلامة مشتركة وتشجيع التنسيق الدولي بينما تستمر قدرات الذكاء الاصطناعي في التوسع.

لماذا يقلق قادة الذكاء الاصطناعي؟

يتجاوز القلق مجرد سيناريوهات افتراضية. إذ باتت نظم الذكاء الاصطناعي قادرة بشكل متزايد على أداء مهام معقدة ومستقلة، بما في ذلك البرمجة والبحث والتفاعل مع الأنظمة الرقمية. وقد كثّفت الحوادث الأخيرة التي تنطوي على اختراق بمساعدة الذكاء الاصطناعي وأشكال أخرى من إساءة الاستخدام النقاش حول ما إذا كانت الضمانات القائمة كافية.

حذّر أمودي من أن استمرار التقدم السريع قد يؤدي إلى أنظمة تصبح قدراتها صعبة السيطرة. وقد أبرز على وجه الخصوص احتمال وجود وكلاء ذكاء اصطناعي أكثر استقلالية، والحاجة إلى فهم سلوكهم قبل نشر إصدارات أقوى.

الدعم من قادة آخرين في قطاع التكنولوجيا

حظي الاقتراح بدعم من قادة تقنيين بارزين آخرين. فقد عبّر الرئيس التنفيذي لشركة OpenAI سام ألتمان عن تأييده للتقييم المستقل، في حين أن إيلون ماسك أيّد أيضاً الفكرة الأوسع المتمثلة في إبطاء التطوير لتحسين السلامة.

يُعد ذلك ملحوظاً لأن شركات الذكاء الاصطناعي عادة ما تكون منخرطة في منافسة شرسة لبناء نماذج أكثر قدرة. لذا قد تمثل زيادة التركيز على معايير سلامة مشتركة تغييراً مهماً في طريقة تعامل الصناعة مع تطوير الذكاء الاصطناعي المتطور.

الجدل حول السياسات

لا يدور النقاش ببساطة حول التكنولوجيا. بل بات يزداد أنه سؤال يتعلق بالسياسات العامة والأمن القومي والمنافسة الدولية.

يجادل مؤيدو تعزيز ضمانات الذكاء الاصطناعي بأن الحكومات بحاجة إلى وضع قواعد واضحة قبل أن تصبح الأنظمة المتقدمة أكثر قوة بشكل ملحوظ. لكن النقاد، في المقابل، يحذرون من أن التنظيم المفرط قد يؤدي إلى إبطاء الابتكار وإضعاف الموقع التنافسي للدول التي تطور الذكاء الاصطناعي، خصوصاً في المنافسة مع الصين.

يخلق ذلك توازناً سياسياً صعباً: فالحكومات تريد ابتكار الذكاء الاصطناعي والنمو الاقتصادي، لكنها تحتاج أيضاً إلى معالجة الأمن السيبراني، والمعلومات المضللة، والخصوصية، وتعطّل فرص العمل، وربما مخاطر أشد وطأة.

السلامة مقابل الابتكار

السؤال المركزي لم يعد هو ما إذا كان ينبغي استمرار تطوير الذكاء الاصطناعي. بدلاً من ذلك، بات النقاش يتركز بشكل متزايد على كيفية استمرار التطوير بشكل مسؤول.

قد يمنح التباطؤ الباحثين مزيداً من الوقت لاختبار النماذج المتقدمة، وتطوير ضمانات أقوى، ووضع إشراف مستقل. وفي الوقت نفسه، تقول الشركات إن تطوير الذكاء الاصطناعي بصورة مسؤولة يجب ألا يُلغي فوائد الابتكار الأسرع في مجالات مثل الرعاية الصحية والعلوم والتعليم والإنتاجية.

التحدي يتمثل في إيجاد إطار يشجع التقدم التكنولوجي دون السماح بأن تصبح اعتبارات السلامة مجرد فكرة لاحقة.

ماذا يحدث بعد ذلك؟

من المرجح أن تؤدي دعوات أمودي وقادة التكنولوجيا الآخرين إلى إبقاء تنظيم الذكاء الاصطناعي والسلامة في صلب النقاشات المتعلقة بالسياسات على مستوى العالم. أما ما إذا كانت الحكومات ستعتمد متطلبات إلزامية، أو ستضع الشركات معايير طوعية، أو ستواصل الصناعة غالباً العمل عبر المنافسة، فلا يزال أمراً غير محسوم.

ومع ذلك، فإن الذي يتضح هو أن سباق الذكاء الاصطناعي لم يعد يقتصر فقط على من يستطيع بناء أقوى نموذج أولاً. بل يتعلق أيضاً بمن يمكنه إثبات أنه يمكن تطوير نظم ذكاء اصطناعي أكثر قوة، وإجراء تقييمات لها، ونشرها بأمان.

قد تحدد السنوات المقبلة بالتالي مبدأ جديداً لصناعة التكنولوجيا: يجب قياس تقدم الذكاء الاصطناعي ليس فقط بالقدرة، بل أيضاً بالسلامة والمساءلة.

#AnthropicCEOCallsForAISlowdown #Aİ #ArtificialIntelligence #AISafety #AIRegulation