يؤدي الانتشار الواسع لتطبيق الذكاء الاصطناعي إلى استحضار ما يُسمّى بقانون الأنظمة المُثقلة، إذ لا تعني أتمتة العمل دائمًا التحرر منه—ففي بعض الحالات، يزداد مقدار العمل على الإنسان. وشرح ماخـروم، المؤسس والمدير التنفيذي لشركة Spark X، في مقال لصحيفة Project Syndicate سبب أن الهياكل الحكومية لا تُعيق التقدم بقدر ما أنها تتخلف عنه ببساطة.
غَمرٌ عالمي من النصوص
لطالما اجتاحت النصوص المُولَّدة بالذكاء الاصطناعي (AI) كل مكان منذ ظهور ChatGPT في عام 2022. غير أن الحكومات والمجتمع المدني يتخلفان عن هذه المستجدات بصعوبة. ولا تشعر هذه المشكلة في أي مكان كما تشعر في المحاكم. ففي الولايات المتحدة، ارتفعت نسبة الدعاوى الفيدرالية المقدمة دون محامٍ من متوسط 11% في الفترة 2005–2022 إلى 16,8% في عام 2025. ويربط الباحثون هذا القفز بظهور الذكاء الاصطناعي، ويشيرون إلى أن حصة الدعاوى الفيدرالية المدنية التي تتضمن نصوصًا آلية زادت من 1% في عام 2023 إلى 18% اليوم.
في يوليو/تموز حذرت الهيئة العامة للمحاسبة في الولايات المتحدة من أن دائرة الإيرادات الداخلية في البلاد (IRS) قد تغرق في التعليقات العامة المُولَّدة بالذكاء الاصطناعي على وثائق الضرائب. وكما تشير الهيئة، فإن النماذج اللغوية الكبيرة قادرة على توليد عدد شبه غير محدود من التباينات للنص نفسه، ولذلك يصبح اكتشاف التعليقات المتطابقة أكثر صعوبة.
كما أن الداعمين لأبحاث علمية يواجهون فيضًا من النصوص. فقد ارتفع عدد طلبات المنح لدى 12 جهة تمويل في بريطانيا وأوروبا بنسبة 57% منذ عام 2022، بفضل الزيادة الحادة في الطلبات التي أُعدت بمساعدة الذكاء الاصطناعي.
ردًا على موجة النصوص المُولَّدة بالذكاء الاصطناعي، بدأت الحكومات أتمتة عمليات عملها الخاصة. إذ أظهر استطلاع أجرته منظمة التعاون الاقتصادي والتنمية (OECD) شمل 58 دائرة وطنية للضرائب أن 69% منها استخدمت الذكاء الاصطناعي في عام 2023، وهو نمو هائل مقارنة بنسبة 9% في عام 2016. ومع قدرات الذكاء الاصطناعي تتوسع أيضًا مجالات استخدامه: إذ تستخدم الآن هيئات الضرائب هذه التكنولوجيا للعمل التحليلي، وفرز الإجراءات، وتحسين خدمة دافعي الضرائب، وإدارة المراسلات، وأتمتة كميات كبيرة من المهام المتعبة والرتيبة.
لكن أي زيادة في القدرة تقود إلى زيادة الطلب. فقد تكتشف جهة حكومية قادرة الآن على معالجة ضعف عدد التعليقات العامة أن عدد هذه التعليقات سيتضاعف أيضًا. ويصف خبير السلامة ديفيد وودز ذلك بأنه «قانون الأنظمة المُفرطة الأحمال»: عندما يصل النظام إلى حدود طاقته، فإن كل تحسين يُستخدم بسرعة لتوسيع نطاق عمله. ويقارن وودز هذا المفهوم بظاهرة سماها «وهم الإحلال»: إذ يُفترض أن الأتمتة تستبدل عمل الإنسان فحسب، لكنها في الواقع تُغيّر طبيعة العمل ذاته، وغالبًا ما تزيد أحجامه. غير أنه من المستحيل تقريبًا توسيع الرقابة البشرية على نطاق واسع بالقدر نفسه من السهولة. ويتطلب قانون الاتحاد الأوروبي «بشأن الذكاء الاصطناعي» تطوير الأنظمة عالية المخاطر بحيث يمكن لـ«الأشخاص الطبيعيين» التحكم فيها بفعالية.
كما يمنح قانون الاتحاد الأوروبي لحماية البيانات للأشخاص الطبيعيين حق عدم الخضوع لقرارات تستند حصريًا إلى المعالجة الآلية للبيانات.
لا تستطيع الشركات والمؤسسات تنفيذ هذه المتطلبات بمجرد دفع الإنسان إلى نهاية السلسلة. ففي عام 2023، وفي حكم قضائي في قضية SCHUFA المتعلقة بتصنيفات الائتمان الآلية، قضت المحكمة الأوروبية بأن الأمر المهم كان ما إذا كان القرار النهائي يعتمد على التقييم الآلي، حتى لو كانت الصلاحيات لدى البشر من الناحية الشكلية قائمة لاتخاذ القرار. والتوقيع الذي لا يَفعل سوى التصديق على قرار آلي ليس مساويًا للرقابة الفعلية.
والآن تخيلوا أن هاتين القوتين التقتا في شارع ضيق. جميع مراحل العمل السابقة – البحث، والفرز، وإعداد المسودة، والمراجعة، وإعادة التوجيه – تتسارع، بينما لا تتغير سرعة خاضع الطرف المسيطر. يرفع التدفق اللامتناهي لمحتوى مُولَّد بالذكاء الاصطناعي الطلب على الحكم البشري، لكن السرعة التي يستطيع بها الإنسان اتخاذ القرارات تظل كما هي.
لماذا لا تكون الأتمتة حلاً سحريًا
والبحث الجديد في مجال الهندسة يوضح المشكلة جيدًا. فمن خلال نمذجة عملية الترخيص لمحطات المفاعلات النووية، قارن مؤلفوه بين العملية اليدوية الحالية وبين بديلين آليين. واتضح أن المدد المتوقعة للترخيص لم تتغير حتى مع أكثر أنظمة الأتمتة تقدّمًا (حوالي 15 شهرًا)، رغم أن تقديرات قدرات الذكاء الاصطناعي تحسنت – من تقديرات محافظة إلى تقديرات متفائلة. وكان عنق الزجاجة في طابور المُراقبين الأكبر سنًا المسؤولين عن الموافقة النهائية على أكثر العمليات تعقيدًا: إذ لا يستطيعون إنجاز سوى حوالي ثلاث عمليات في اليوم. وبعبارة أخرى، حتى لو ضُوعفت قدرات الآلات، فهذا لا يسرّع عملية الخبرة نفسها تقريبًا.
اليوم تستخدم الحكومات الذكاء الاصطناعي للبحث عن الوثائق، وإعداد ملخصات القضايا، وفرز التعليقات، وتحضير مسودات الرسائل. وهذه مهام طبيعية للذكاء الاصطناعي، لأن أتمتتها تتم دون تفويض اتخاذ قرارات مهمة. لكن عندما تنمو قدرات اتخاذ القرارات نفسها بوتيرة أسرع من غيرها، فإن الأتمتة لا تنقل عنق الزجاجة فحسب، بل قد تسيء الوضع أيضًا.
والبديل ليس تفويض الآلات باتخاذ القرارات (وفي بعض الحالات يحظر القانون ذلك صراحة، وحتى من حيث المبدأ يبدو غير معقول)، بل استخدام الآلات لتقليل العبء المعرفي عند اتخاذ تلك القرارات، بينما ينبغي أن يبقى الحكم نفسه من اختصاص الإنسان.
قد يكون نموذج الذاكرة العاملة الذي طوره عالم النفس البريطاني آلان بادلي مفيدًا هنا. فبعض أجزاء ذاكرتنا العاملة تخزن وتعالج المعلومات اللفظية والبصرية، بينما الجزء الآخر الذي يسميه بادلي «المدير المركزي» يوجه ويُوزع انتباهنا المحدود. ويستطيع الذكاء الاصطناعي بالفعل قراءة المعلومات وتنظيمها ومقارنتها وعرضها، لكن تحديد ما يستحق الاهتمام واتخاذ حكم – لا يزال ذلك حقًا خالصًا للبشر.
لذلك يجب أن يكون الهدف من إدخال الذكاء الاصطناعي هو تسهيل اتخاذ القرارات للموظفين الحكوميين: أي إنشاء أدوات تكشف خيارات الاختيار وعدم اليقين، وتعرض الاعتراضات المضادة بطريقة موضوعية، وتقرّ كذلك بحدودها الخاصة. لسوء الحظ، فإن إنشاء نظام من هذا النوع أصعب من أداة لإعداد ملخصات موجزة من نصوص طويلة. علاوة على ذلك، لا تبدو فكرة مثل هذا النظام مثيرة إلى هذا الحد، لأن ما ستحصده سيكون أقرب إلى مذكرات توضيحية مُؤهلة، وليس إلى تبرير إلغاء إدارات كاملة.
ليست هذه مشكلة جديدة. في عام 1983، كانت عالمة النفس المعرفي لِيزانّا بينبريدج تحذر من «مفارقة الأتمتة»: فالآلات تستولي على أبسط المهام، ويبقى للناس أصعبها. ورغم أن بينبريدج كانت تتحدث عن نظم إدارة العمليات الصناعية، فإن المنطق نفسه ينطبق على الذكاء الاصطناعي. وتقيس الهيئات الحكومية عدد الطلبات المعالَجة وعدد القضايا المُنجَزة، وزمن الاستجابة، والآن أيضًا عدد المهام الآلية. لكنّها لا تقيس مقدار العمل الإضافي الذي يتعيّن على صانعي القرار إنجازه.
كلما تمكنت نماذج الذكاء الاصطناعي من تنفيذ المزيد من العمل، زادت القرارات التي سيتعين على البشر اتخاذها. وإذا لم تأخذ الحكومات هذا الاختلال في الحسبان، فستكتشف قريبًا أنها أتمتت، ظاهريًا، كل شيء تقريبًا، دون أي فائدة تذكر.