لن تُحسم الثورة القادمة في مجال الذكاء الاصطناعي بواسطة النظام الذي يتخذ أذكى قرار. بل سيفوز به النظام الذي يعرف متى لا يحق له أن يقرر إطلاقًا.
يبدو هذا وكأنه عكس ذلك.
من سنوات، اعتبرت التكنولوجيا الذكاء هو الوجهة النهائية. مزيد من المعلمات، استدلال أسرع، بيانات أكبر، وتنبؤات أفضل. كانت الفرضية دائمًا أنه إذا أصبحت الآلات قادرة بما يكفي، فسيتبعها تلقائيًا الثقة.
التاريخ يشير إلى العكس.
لم تُبنَ البنوك على متاجرين عباقرة. لم تصبح الطيران آمنًا لأن الطيارين توقفوا عن ارتكاب الأخطاء. تعمل المجتمعات الحديثة لأن كل نظام حاسم يحيط بذكاء الإنسان بطبقات من التحقق والمساءلة والحدود المصممة بعناية.
لقد نسيت المالية تلك الدرس بطريقة ما.
اقضِ وقتاً كافياً في دراسة بنية التداول الآلي، وستبدأ في الظهور بنمط غريب. تدور معظم النقاشات حول الاستراتيجيات، والعوائد، وسرعة التنفيذ، والنماذج التنبؤية. وقليل جداً من الناس يتوقفون لفحص الإطار غير المرئي الذي يحدد من المسموح له فعلاً بتحريك رأس المال.
أصبح التفويض فكرة ثانوية.
ويصبح هذا الإغفال أكثر خطورة مع تطور وكلاء الذكاء الاصطناعي من أدوات تحليلية إلى فاعلين مستقلين قادرين على التفاعل مع الأنظمة المالية اللامركزية دون إشراف بشري متواصل. @NewtonProtocol
لم يعد السؤال الصعب هو ما إذا كانت الخوارزمية تستطيع تحديد فرصة.
إنه ما إذا كانت تلك الفرصة ينبغي أن تُنفَّذ أصلاً.
تخيل أنك تدخل مستشفى يمتلك فيه كل جراح قدرة تقنية استثنائية، لكن لا أحد يتحقق من هوية المريض قبل بدء الجراحة.
لن يصف أي شخص عاقل ذلك بأنه مؤسسة آمنة.
ومع ذلك، غالباً ما يتصرف التمويل الرقمي بطرق متشابهة بشكل لافت. فالأتمتة المتطورة تحظى باهتمام هائل بينما تظل أطر التفويض بدائية بشكل مدهش. ويمنح المستخدمون عادةً أذونات واسعة للمحافظ، وينشرون استراتيجيات آلية، ويفترضون بهدوء أن البرمجيات ستتصرف بمسؤولية لمجرد أنها أدت أداءً جيداً في الماضي.
كان ذلك الافتراض دائماً هشاً.
تمتلك الأسواق عادة غريبة تتمثل في كشف نقاط الضعف التي تبدو غير ذات صلة خلال فترات الاستقرار. فاستراتيجية صُممت لسيولة منظمة تواجه فجأة بيعاً مذعوراً. وتتغير قواعد الحوكمة بين ليلة وضحاها. ويتصرف oracle على نحو غير متوقع. ويشهد جسر اضطراباً مؤقتاً. وكل حدث يخلق قرارات لم يُصمَّم البرمجيات أصلاً للتعامل معها بوضوح.
والنتيجة نادراً ما تكون درامية في البداية.
تتراكم الاستثناءات الصغيرة.
تبدأ الافتراضات الصغيرة في التصادم.
في النهاية تختفي الثقة أسرع بكثير من السيولة.
وهنا تبدأ فلسفة مختلفة في جذب الانتباه. فبدلاً من السؤال عن كيفية تمكين الأنظمة المستقلة من تنفيذ المزيد من القرارات، تسأل بعض البنى التحتية الناشئة سؤالاً أقدم وأكثر إزعاجاً: تحت أي شروط دقيقة يجب أن يصبح التنفيذ مستحيلاً؟
ذلك التحول يبدو طفيفاً.
آثارها هائلة.
توفر الهندسة المدنية مقارنة مثيرة للاهتمام. فنادراً ما يحتفي المهندسون بالجسور لأنها تظل قائمة أثناء الطقس المثالي. أما الإنجاز الحقيقي فهو تصميم هياكل قادرة على الصمود في ظروف لا يريد أحد أن يختبرها.
المرونة غير مرئية حتى تصبح ضرورية.
تستحق الأتمتة المالية المعيار نفسه.
لا ينبغي للنظام الآمن أن يثير إعجاب المراقبين لمجرد أن كل شيء سار بشكل صحيح. بل ينبغي أن يكسب الاحترام لأن الفشل بقي محصوراً عندما رفض الواقع التعاون.
ذلك التمييز يغير الطريقة التي تُقيَّم بها البنية التحتية.
تصبح الأداءات ثانوية.
تصبح الحدود أساسية.
أحد الآثار الجانبية التي غالباً ما تُغفل للتمويل المدعوم بالذكاء الاصطناعي هو أن المسؤولية تنتقل ببطء بعيداً عن متخذي القرار البشريين المرئيين نحو بنية تقنية غير مرئية. وعندما تقع الخسائر، يبحث المستخدمون غالباً عن أخطاء فردية، لكن التفسير الأعمق يكمن كثيراً داخل الحوافز المدمجة في النظام نفسه.
تشكّل الشيفرة السلوك بهدوء قبل وقت طويل من إدراك الناس لتأثيرها.
يقوم المطورون بتحسين التفاعل.
تشجع البروتوكولات على النشاط.
يسعى مقدمو السيولة وراء الكفاءة.
يستجيب كل مشارك بعقلانية للإشارات الاقتصادية، بينما يخلق جماعياً بيئات يتوسع فيها التعقيد أسرع من المساءلة.
لم يخطط أحد لتلك النتيجة.
لقد ساهم الجميع في ذلك.
هناك سوء فهم آخر يستحق الاعتراض عليه.
يعتقد كثير من الناس أن الأنظمة اللامركزية تقضي على الثقة.
إنهم لا يفعلون.
إنهم يعيدون توزيعها.
بدلاً من الثقة بمؤسسة واحدة، يبدأ المشاركون في الثقة بالافتراضات التشفيرية، وعمليات الحوكمة، وحوافز المدققين، وعمليات تدقيق البرمجيات، والعقوبات الاقتصادية، وعدد لا يحصى من تفاصيل التنفيذ التي تظل غير مرئية إلى حد كبير للمستخدمين العاديين.
الثقة لا تختفي أبداً.
إنه ببساطة يغيّر عنوانه.
تصبح هذه الملاحظة ذات صلة خاصة عندما يبدأ الوكلاء المستقلون في إدارة الأصول عبر بروتوكولات متعددة في الوقت نفسه. عند تلك النقطة، تصبح المزامنة التقنية مهمة بقدر الذكاء الحاسوبي على الأقل.
يبقى النموذج البارع الذي يعمل داخل حوكمة سيئة خطيراً.
غالباً ما يثبت أن النموذج المتوسط الذي يعمل داخل بنية تحتية منضبطة موثوق بشكل لافت.
تثير تلك المفارقة دهشة الناس لأن التقدم التكنولوجي يُقاس عادةً عبر القدرة لا عبر الكبح.
تميل الواقع إلى مكافأة العكس.
تأمل كيف يتعامل لاعبو الشطرنج ذوو الخبرة مع المواقف المعقدة. المبتدئون يبحثون بعنف عن تركيبات هجومية استعراضية. أما أبطال العالم فينفقون طاقة أكبر بكثير في تحديد نقاط الضعف الخفية داخل موقفهم قبل إطلاق خطط طموحة.
الانضباط يعيش أطول باستمرار من الحماس.
تتبع البنية التحتية المالية منطقاً مشابهاً بشكل لافت.
كل إذن يُمنح اليوم يصبح غداً سطح هجوم محتملاً. وكل ميزة تُضاف للمستخدمين تخلق مسؤولية أخرى على المهندسين. وكل اختصار يتراكم في النهاية على هيئة فائدة خفية يجب على أحد ما سدادها.
التعقيد يتراكم.
وكذلك المخاطر.
ربما لا يكمن الجانب الأكثر إثارة في بنية الذكاء الاصطناعي الحديثة في التعلم الآلي نفسه، بل في ظهور المساءلة القابلة للبرمجة. فبدلاً من الاعتماد حصرياً على السمعة أو الاتفاقات القانونية، تحاول الأنظمة التقنية بشكل متزايد تعريف السلوك المقبول من خلال قيود قابلة للإنفاذ.
يمثل ذلك تحولاً فلسفياً عميقاً.
تتوقف القواعد عن كونها مجرد اقتراحات.
تتحول إلى بنية.
يمكن لهذا التطور أن يعيد تشكيل كيفية تطور أسواق البرمجيات خلال العقد القادم. فبدلاً من المنافسة عبر دقة التنبؤ أو سرعة التنفيذ فقط، قد تتنافس الوكلاء المستقلون في النهاية عبر الموثوقية القابلة للقياس، ونماذج التفويض الشفافة، وتواريخ القرارات القابلة للتحقق، والمساءلة الاقتصادية.
قد لا تعود القدرة وحدها تفرض أعلى علاوة.
قد يفعل التنبؤ ذلك.
تمتد الآثار إلى ما هو أبعد بكثير من العملات المشفرة.
أتمتة الرعاية الصحية.
الخدمات اللوجستية لسلسلة الإمداد.
الهوية الرقمية.
منظمات مستقلة.
كل قطاع يجرّب اتخاذ القرار المدفوع بالآلة يصطدم في النهاية بالإدراك نفسه غير المريح: الذكاء يجيب عن الأسئلة، لكن الحوكمة هي التي تحدد ما إذا كانت تلك الإجابات تستحق التأثير في الواقع.
هذه مشكلات مختلفة تماماً.
يتطلب أحدهما الرياضيات.
أما الآخر فيتطلب تصميماً مؤسسياً.
لطالما احتفت التكنولوجيا بالابتكار بينما قللت بهدوء من شأن الصيانة. فبناء الأنظمة المذهلة يجذب العناوين. أما الحفاظ على أنظمة موثوقة عبر بيئات غير متوقعة فيتطلب صبراً نادراً ما يجذب الانتباه.
ومع ذلك، تُذكَر الحضارات أكثر بكثير بما واصل أداءه من خلال ما أذهل المراقبين للحظات.
ذلك المنظور يغير كل شيء.
بدلاً من السؤال عمّا إذا كان الذكاء الاصطناعي يستطيع استبدال الحكم البشري، قد يكون السؤال الأهم هو ما إذا كنا نبني بيئات يظل فيها الحكم الجيد ممكناً حتى بعد أن يصبح الذكاء وفيراً.
الندرة تتغير.
تزداد القدرة الحاسوبية أرخص.
تتحسن التنبؤات.
تتوسع الأتمتة.
ومع ذلك، تبقى الحدود المسؤولة شديدة الصعوبة في التصميم.
وقد تصبح تلك في نهاية المطاف البنية التحتية الأكثر قيمة على الإطلاق.
لن ينتمي المستقبل إلى أسرع خوارزمية أو أعلى بروتوكول ضجيجاً. بل سينتمي إلى البنية الهادئة التي تجعل القوة الاستثنائية تتصرف بانضباط عادي—لأن التاريخ لم يُغيَّر أبداً بالذكاء وحده، بل بالذكاء الذي تعلّم أين يجب أن تبدأ حدوده الخاصة.