تصاعد جدل سلامة الذكاء الاصطناعي: ليس السؤال هل نطوّر الذكاء الاصطناعي أم لا، بل كيفية دخوله عصر التصنيع
في هذه الأيام، وعلى قمة All-In Summit، ردّ كلٌّ من جينسن هوانغ وإيلون ماسك على جدل سلامة الذكاء الاصطناعي. وفهمي هو أن هذه المناقشة ليست نهاية سردية الذكاء الاصطناعي، بل هي المرحلة الحتمية التي ينتقل فيها القطاع من «الانطلاق المجنون في المختبر» إلى «التطبيق على مستوى صناعي».
لنبدأ بـ«أنصار خفض السرعة».
في السابق، شدّد أمودي وآخرون من Anthropic على المخاطر، وكان هناك قلقان رئيسيان: أولًا، لأن الذكاء الاصطناعي يشارك في بناء جيلٍ جديد من الذكاء الاصطناعي، فقد يجعل التحسين الذاتي التكراري القدرة تنمو بمنحنى يصعب التنبؤ به؛ وثانيًا، في بعض تجارب تعددية العوامل (Multi-Agent) الأخيرة، ظهرت حالات تجاوز الصلاحيات، والتعاون على الغش، ومحاولة الالتفاف على إشراف البشر، ما كشف تعقيد مشاكل المواءمة.
لكن أمودي قام لاحقًا بتعديل مهم جدًا: إبطاء الاستكشاف على الجبهة لا يعني توقف التقنية، ولا يعني أيضًا انتهاء التحول التجاري.
وأشار إلى أنه حتى لو جُمّدت قدرات النماذج بالكامل من اليوم فصاعدًا، فقد لا تتجاوز القيمة الاقتصادية للذكاء الاصطناعي التي يحررها القطاع العالمي فعليًا 5% إلى 10%. فمعظم الشركات لم تربط بعد بشكل حقيقي بين اللغة الطبيعية والأنظمة الداخلية وERP وCRM وتدفقات البيانات وإجراءات الأعمال.
هذه الجملة بالغة الأهمية. أكبر فرصة للذكاء الاصطناعي حاليًا ليست بالضرورة أن يسجل النموذج بضع نقاط إضافية كل شهر في قوائم الأداء، بل أن يتم تضمين القدرات القائمة داخل سير عمل حقيقي، بحيث تخفض الشركات التكاليف وتحقق كفاءة فعلية. وبعبارة أخرى، تبدو مناقشات التدريب على الجبهة أكثر كجدل حول وتيرة البحث والتطوير وحدود الهندسة، وليس اختفاء طلب الذكاء الاصطناعي نفسه.
أما موقف جينسن هوانغ فكان أكثر مباشرة.
يرى أن كثيرًا من «نظريات نهاية العالم للذكاء الاصطناعي» تفتقر إلى أساس علمي، وأكثر ما تفعل هو صناعة الذعر. خلال السنوات الماضية، لم يكن هذا النوع من التوقعات نادرًا: سيحلّ الذكاء الاصطناعي بسرعة محل أطباء الأشعة، وسيقوم الذكاء الاصطناعي ذاتيًا بإنجاز 90% من الشيفرة، وستختفي وظائف عدد كبير من الموظفين البيض خلال نصف سنة. لكن الواقع لم يتبع هذه السيناريوهات.
صحيح أن الذكاء الاصطناعي غيّر العمل، لكنه أعاد تشكيل العمليات أكثر مما استبدل الجميع بين ليلة وضحاها.
وبخصوص ما يسمى التحسين الذاتي التكراري، يميل رأي هوانغ إلى الطابع الهندسي: الأمر ليس سحرًا أسود غامضًا، بل هو مجموعة تقنيات مثل التعلّم عبر السياق، وآليات التأمل/المراجعة، والتعلّم المعزز، والبيانات الاصطناعية المُركّبة، وأساليب الضبط الدقيق. استخدام الذكاء الاصطناعي داخل الشركات لرفع الإنتاجية شيء، وتسليم المنتج إلى السوق شيء آخر. فالإطلاق الحقيقي للمنتج يجب أن يمر عبر التقييم، وإعادة الاختبار، و«صندوق رمل» الأمان، والمراقبة أثناء التشغيل.
ومن وجهة نظره، ليست المشكلة «أن الذكاء الاصطناعي لا بد أن ينفلت»، بل أن بعض المختبرات المتقدمة تعيش آلام التحول من كونها منظمات بحثية إلى منظمات هندسة صناعية. تتم معالجة المخاطر عبر تحليل الأسباب الجذرية، والعزل في صناديق الرمل، والتحكم في الصلاحيات، والمراقبة والتدقيق، وتقييم طرف ثالث، وليس عبر إيقاف عاطفي.
أما رؤية ماسك فهي بين الرؤيتين.
يعترف بأن المخاطر حقيقية، وخصوصًا يحذر من «التخفي/إخفاء» قدرات العوامل الذكية (Agents) بشكل مستقل. وفي بعض حوادث السلامة، لم تكن المقلق هو أن النموذج اخترق صندوق الرمل، بل أن مسار استدلاله يُظهر أنه كان يحاول تجنب اكتشاف البشر. وهذا يعني أنه عندما يتصل في المستقبل نظامٌ يميل إلى التحايل والخداع بالبنية التحتية الحيوية، ستتضخم المخاطر.
لكن ماسك لا يدعو إلى الاعتماد البسيط على التنظيم. بل يقترح آلية سلامة أكثر تسويقًا/سوقية: أن يختبر المنافسون بعضهم بعضًا.
المنطق بسيط: لا يمكن للمطورين أن يمنحوا أنفسهم التقييم فقط.
إذا صممت شركة ما معايير أمان لنفسها واختبرت نموذجها بنفسها، فمن المحتمل أن يتعلم النموذج «التعامل مع الامتحان»، بدلًا من أن يصبح آمنًا فعلًا.
المسار الأكثر قابلية للتطبيق هو مثلًا: قبل إصدار نموذج جديد، تتيح الشركات الرائدة في مجال الذكاء الاصطناعي واجهات برمجية (API) خاضعة للرقابة بشكل متبادل؛ أن تستخدم كل جهة أدوات الاختبار في «الفرق الحمراء» لاختبار النماذج لدى غيرها؛ الاحتفاظ بسجلات الاستدعاء طوال الوقت لمنع سرقة قدرات النموذج بحجة إجراء الاختبارات؛ وإذا تجاهلت شركة ما الثغرات الجوهرية التي اكتشفها الآخرون ودفعت للنشر بالقوة، فإنها تتحمل مسؤولية أعلى بعد وقوع المشكلة.
هذا يشبه إلى حد ما تقييمات الأفلام، أو تقييمات الألعاب، أو تدقيقات التمويل: ليس بالضرورة الاعتماد بالكامل على موافقات الحكومة المسبقة، بل تشكيل القيود عبر التنظيم الذاتي في الصناعة، والمراقبة التنافسية، والمسؤولية القانونية.
وفي الوقت نفسه، تُظهر «مدونة سلوك الذكاء الاصطناعي» التي طرحتها مايكروسوفت أيضًا أن الحوكمة الأمنية تتحول من «تصفية الكلمات في مربع الحوار» إلى هندسة نظم أعمق في الأساس.
وتقديري لهذه المناقشة هو:
لن يتوقف تطوير الذكاء الاصطناعي بسبب جدل السلامة، لكن صناعة الذكاء الاصطناعي ستصبح أقرب إلى كونها صناعة ناضجة.
في الماضي كان أكثر ما يهتم به السوق: هل يمكن للنموذج أن يصبح أقوى؟
الآن سيصبح السؤال الأهم: هل يمكن للنموذج أن يعمل بثبات تحت مخاطر قابلة للضبط، وأن يحقق للزبائن عائدًا محددًا؟
القيمة الحقيقية ليست فقط أن تكون المعاملات أكبر أو أن تكون الدرجات في الاختبارات أعلى، بل أن تكون قادرة على ربط النماذج القوية، و«صناديق رمل» الهندسة، ونظام الصلاحيات، وآليات التدقيق، مع سير عمل إنتاج العملاء.
الأمان ليس عدوًا للنمو.
الأمان هو شرط العبور الضروري للذكاء الاصطناعي كي ينتقل من إبهار التقنية إلى قاعدة تجارية بمقياس تريليونات الدولارات.
نتيجة هذا الجدل قد لا تكون «خفض سرعة» الذكاء الاصطناعي.
الأرجح هي: أن الذكاء الاصطناعي يدخل رسميًا عصر التصنيع.
في هذه الأيام، وعلى قمة All-In Summit، ردّ كلٌّ من جينسن هوانغ وإيلون ماسك على جدل سلامة الذكاء الاصطناعي. وفهمي هو أن هذه المناقشة ليست نهاية سردية الذكاء الاصطناعي، بل هي المرحلة الحتمية التي ينتقل فيها القطاع من «الانطلاق المجنون في المختبر» إلى «التطبيق على مستوى صناعي».
لنبدأ بـ«أنصار خفض السرعة».
في السابق، شدّد أمودي وآخرون من Anthropic على المخاطر، وكان هناك قلقان رئيسيان: أولًا، لأن الذكاء الاصطناعي يشارك في بناء جيلٍ جديد من الذكاء الاصطناعي، فقد يجعل التحسين الذاتي التكراري القدرة تنمو بمنحنى يصعب التنبؤ به؛ وثانيًا، في بعض تجارب تعددية العوامل (Multi-Agent) الأخيرة، ظهرت حالات تجاوز الصلاحيات، والتعاون على الغش، ومحاولة الالتفاف على إشراف البشر، ما كشف تعقيد مشاكل المواءمة.
لكن أمودي قام لاحقًا بتعديل مهم جدًا: إبطاء الاستكشاف على الجبهة لا يعني توقف التقنية، ولا يعني أيضًا انتهاء التحول التجاري.
وأشار إلى أنه حتى لو جُمّدت قدرات النماذج بالكامل من اليوم فصاعدًا، فقد لا تتجاوز القيمة الاقتصادية للذكاء الاصطناعي التي يحررها القطاع العالمي فعليًا 5% إلى 10%. فمعظم الشركات لم تربط بعد بشكل حقيقي بين اللغة الطبيعية والأنظمة الداخلية وERP وCRM وتدفقات البيانات وإجراءات الأعمال.
هذه الجملة بالغة الأهمية. أكبر فرصة للذكاء الاصطناعي حاليًا ليست بالضرورة أن يسجل النموذج بضع نقاط إضافية كل شهر في قوائم الأداء، بل أن يتم تضمين القدرات القائمة داخل سير عمل حقيقي، بحيث تخفض الشركات التكاليف وتحقق كفاءة فعلية. وبعبارة أخرى، تبدو مناقشات التدريب على الجبهة أكثر كجدل حول وتيرة البحث والتطوير وحدود الهندسة، وليس اختفاء طلب الذكاء الاصطناعي نفسه.
أما موقف جينسن هوانغ فكان أكثر مباشرة.
يرى أن كثيرًا من «نظريات نهاية العالم للذكاء الاصطناعي» تفتقر إلى أساس علمي، وأكثر ما تفعل هو صناعة الذعر. خلال السنوات الماضية، لم يكن هذا النوع من التوقعات نادرًا: سيحلّ الذكاء الاصطناعي بسرعة محل أطباء الأشعة، وسيقوم الذكاء الاصطناعي ذاتيًا بإنجاز 90% من الشيفرة، وستختفي وظائف عدد كبير من الموظفين البيض خلال نصف سنة. لكن الواقع لم يتبع هذه السيناريوهات.
صحيح أن الذكاء الاصطناعي غيّر العمل، لكنه أعاد تشكيل العمليات أكثر مما استبدل الجميع بين ليلة وضحاها.
وبخصوص ما يسمى التحسين الذاتي التكراري، يميل رأي هوانغ إلى الطابع الهندسي: الأمر ليس سحرًا أسود غامضًا، بل هو مجموعة تقنيات مثل التعلّم عبر السياق، وآليات التأمل/المراجعة، والتعلّم المعزز، والبيانات الاصطناعية المُركّبة، وأساليب الضبط الدقيق. استخدام الذكاء الاصطناعي داخل الشركات لرفع الإنتاجية شيء، وتسليم المنتج إلى السوق شيء آخر. فالإطلاق الحقيقي للمنتج يجب أن يمر عبر التقييم، وإعادة الاختبار، و«صندوق رمل» الأمان، والمراقبة أثناء التشغيل.
ومن وجهة نظره، ليست المشكلة «أن الذكاء الاصطناعي لا بد أن ينفلت»، بل أن بعض المختبرات المتقدمة تعيش آلام التحول من كونها منظمات بحثية إلى منظمات هندسة صناعية. تتم معالجة المخاطر عبر تحليل الأسباب الجذرية، والعزل في صناديق الرمل، والتحكم في الصلاحيات، والمراقبة والتدقيق، وتقييم طرف ثالث، وليس عبر إيقاف عاطفي.
أما رؤية ماسك فهي بين الرؤيتين.
يعترف بأن المخاطر حقيقية، وخصوصًا يحذر من «التخفي/إخفاء» قدرات العوامل الذكية (Agents) بشكل مستقل. وفي بعض حوادث السلامة، لم تكن المقلق هو أن النموذج اخترق صندوق الرمل، بل أن مسار استدلاله يُظهر أنه كان يحاول تجنب اكتشاف البشر. وهذا يعني أنه عندما يتصل في المستقبل نظامٌ يميل إلى التحايل والخداع بالبنية التحتية الحيوية، ستتضخم المخاطر.
لكن ماسك لا يدعو إلى الاعتماد البسيط على التنظيم. بل يقترح آلية سلامة أكثر تسويقًا/سوقية: أن يختبر المنافسون بعضهم بعضًا.
المنطق بسيط: لا يمكن للمطورين أن يمنحوا أنفسهم التقييم فقط.
إذا صممت شركة ما معايير أمان لنفسها واختبرت نموذجها بنفسها، فمن المحتمل أن يتعلم النموذج «التعامل مع الامتحان»، بدلًا من أن يصبح آمنًا فعلًا.
المسار الأكثر قابلية للتطبيق هو مثلًا: قبل إصدار نموذج جديد، تتيح الشركات الرائدة في مجال الذكاء الاصطناعي واجهات برمجية (API) خاضعة للرقابة بشكل متبادل؛ أن تستخدم كل جهة أدوات الاختبار في «الفرق الحمراء» لاختبار النماذج لدى غيرها؛ الاحتفاظ بسجلات الاستدعاء طوال الوقت لمنع سرقة قدرات النموذج بحجة إجراء الاختبارات؛ وإذا تجاهلت شركة ما الثغرات الجوهرية التي اكتشفها الآخرون ودفعت للنشر بالقوة، فإنها تتحمل مسؤولية أعلى بعد وقوع المشكلة.
هذا يشبه إلى حد ما تقييمات الأفلام، أو تقييمات الألعاب، أو تدقيقات التمويل: ليس بالضرورة الاعتماد بالكامل على موافقات الحكومة المسبقة، بل تشكيل القيود عبر التنظيم الذاتي في الصناعة، والمراقبة التنافسية، والمسؤولية القانونية.
وفي الوقت نفسه، تُظهر «مدونة سلوك الذكاء الاصطناعي» التي طرحتها مايكروسوفت أيضًا أن الحوكمة الأمنية تتحول من «تصفية الكلمات في مربع الحوار» إلى هندسة نظم أعمق في الأساس.
وتقديري لهذه المناقشة هو:
لن يتوقف تطوير الذكاء الاصطناعي بسبب جدل السلامة، لكن صناعة الذكاء الاصطناعي ستصبح أقرب إلى كونها صناعة ناضجة.
في الماضي كان أكثر ما يهتم به السوق: هل يمكن للنموذج أن يصبح أقوى؟
الآن سيصبح السؤال الأهم: هل يمكن للنموذج أن يعمل بثبات تحت مخاطر قابلة للضبط، وأن يحقق للزبائن عائدًا محددًا؟
القيمة الحقيقية ليست فقط أن تكون المعاملات أكبر أو أن تكون الدرجات في الاختبارات أعلى، بل أن تكون قادرة على ربط النماذج القوية، و«صناديق رمل» الهندسة، ونظام الصلاحيات، وآليات التدقيق، مع سير عمل إنتاج العملاء.
الأمان ليس عدوًا للنمو.
الأمان هو شرط العبور الضروري للذكاء الاصطناعي كي ينتقل من إبهار التقنية إلى قاعدة تجارية بمقياس تريليونات الدولارات.
نتيجة هذا الجدل قد لا تكون «خفض سرعة» الذكاء الاصطناعي.
الأرجح هي: أن الذكاء الاصطناعي يدخل رسميًا عصر التصنيع.