قبل بضعة أشهر، أجريتُ محادثةً مع مدير مخاطر سابق. سألتُه سؤالًا بدأت اليوم أعدادٌ متزايدة من الناس في طرحه: "إذا كان بإمكان الذكاء الاصطناعي تحليل ملايين سيناريوهات مخاطر السوق خلال ثوانٍ، فهل ستظل المؤسسات بحاجة إلى مديري مخاطر؟" ابتسم وأجاب: "يعتقد معظم الناس أن أصعب جزء في إدارة المخاطر هو حساب المخاطر. ليس الأمر كذلك. الأصعب هو تحديد أي المخاطر يستحق أخذها. يمكن لمؤسستين أن تنظرَا إلى البيانات نفسها، وتستخدما النماذج نفسها، وتصلَا إلى الاستنتاجات نفسها، ومع ذلك تتخذا قرارات مختلفة تمامًا لأنهما لا تشتركان في نفس شهية المخاطر."
ظل هذا الرد معي لأنه أبرز تمييزًا غالبًا ما يُتغاضى عنه. يمكن للذكاء الاصطناعي تقدير احتمالات، لكنه لا يستطيع تحديد مستوى المخاطر الذي ترغب المؤسسة في قبوله. هذه ليست عملية حسابية رياضية. إنها قرار أعمال يُشكّله ترتيب الأولويات والمساءلة والقيم. عند هذه النقطة تنتهي الحسابات ويبدأ الحكم البشري.
وبالنظر إلى هذا المنظور، @NewtonProtocol ليست أكثر من مجرد بنية تحتية للذكاء الاصطناعي. أراها طبقة تفويض تقع بين ما يمكن للذكاء الاصطناعي القيام به وبين ما تسمح به المؤسسة أن يقوم به. يتركز جزء كبير من النقاش حول الذكاء الاصطناعي على تنفيذ أسرع، وتنبؤات أفضل، أو نماذج أكثر تعقيدًا. لكن السؤال الأهم قد يكون أبسط بكثير: ما الذي ينبغي أن يُصرَّح للذكاء الاصطناعي بالقيام به؟
قد يحدد وكيل ذكاء اصطناعي فرصة سوقية جذابة، لكن إذا كان تنفيذها ينتهك سياسة مخاطر المؤسسة، فهل ينبغي السماح بالتنفيذ؟ هنا تصبح طبقة التفويض ذات قيمة. ليس هدفها جعل الذكاء الاصطناعي أكثر ذكاءً. هدفها تحديد الحدود التي يمكن للذكاء الاصطناعي العمل ضمنها. قبل سؤال ما الذي يمكن للذكاء الاصطناعي فعله، تحتاج المؤسسات أولًا إلى تحديد ما يُسمح للذكاء الاصطناعي بفعله.
هناك تحدٍ آخر يستحق اهتمامًا متساويًا. يعتقد كثيرون أن شهية المخاطر رقم ثابت، لكن في الواقع هي تتطور باستمرار. تتغير ظروف السوق، وتتغير اللوائح، وتتغير السيولة، وحتى قد تتحول الأولويات الإدارية مع مرور الوقت. ونتيجة لذلك، قد لا تعكس السياسة التي كانت مناسبة أمس أهداف المؤسسة غدًا.
إذا كان النظام لا يطبق سوى سياسة ثابتة، فقد تصبح هذه السياسة في النهاية قيدًا بدلًا من أن تكون ضمانًا. قد ينفّذ الذكاء الاصطناعي كل التعليمات بدقة بينما يتبع إرشادات لم تعد متوافقة مع الأهداف الحالية للمؤسسة. في هذه الحالة، ليست المشكلة سوء التنفيذ. المشكلة هي سياسة قديمة.
لهذا السبب أعتقد أن مستقبل حوكمة الذكاء الاصطناعي ليس فقط متعلقًا بإنفاذ السياسات، بل أيضًا بتطور السياسات. يجب أن تجعل طبقة التفويض القوية من الممكن للمؤسسات تحديث السياسات بأمان وبشكل شفاف وفعّال عند تغيّر ظروف الأعمال، دون إعادة بناء النظام بأكمله. إن المرونة مهمة بقدر أهمية الدقة.
لهذا السبب أعتقد أن المنافسة المستقبلية بين المؤسسات المالية لن تُحدَّد فقط من يملك أقوى نماذج ذكاء اصطناعي. بل ستعتمد بشكل متزايد على من يستطيع ترجمة مبادئ أعماله، وإطار الحوكمة، وشهية المخاطر إلى سياسات واضحة وقابلة للتحقق يمكن لعملاء الذكاء الاصطناعي اتباعها بشكل متسق.
ومن هذا المنظور، @NewtonProtocol يمثّل أكثر من مجرد بنية تحتية تقنية. إنه يوفر إطارًا توازن فيه سرعة الذكاء الاصطناعي مع المساءلة البشرية، مما يتيح بقاء الأتمتة متوافقة مع قيم وأهداف المؤسسات التي تُشغّله.
في السنوات المقبلة، قد لا يأتي الميزة التنافسية الحقيقية من بناء ذكاء اصطناعي أكثر ذكاءً وحده. قد تأتي من بناء سياسات أفضل تحدد كيفية استخدام هذا الذكاء.
ما الذي تعتقد أنه سيهم أكثر في اقتصاد الذكاء الاصطناعي: نماذج أكثر قوة بشكل متزايد، أم سياسات أفضل للتفويض تحدد حدود قراراتها؟
