وجدت نفسي أفكر في مشكلة لا تحظى باهتمام كبير عندما يتحدث الناس عن الذكاء الاصطناعي وسلاسل الكتل.
تدور أغلب المناقشات حول الإمكانيات.
هل يمكن للذكاء الاصطناعي تحليل الأسواق بسرعة أكبر من الإنسان؟
هل يمكنه تنفيذ الصفقات بكفاءة أكبر؟
هل يمكنه تنسيق سير عمل معقد؟
تلك أسئلة مثيرة للاهتمام، لكنها جميعًا تفترض الشيء نفسه: أنه ينبغي السماح للذكاء الاصطناعي بالتصرف بمجرد أن يقرر ما الذي يجب فعله.
كلما فكرت في الأمر، بدا أن هذا الافتراض غير مكتمل.
ربما إن التحدي الأصعب ليس بناء وكلاء مستقلين.
ربما يكون الأمر هو أنها تقرر، في بيئة لا مركزية، متى لا ينبغي السماح لهؤلاء الوكلاء بالتصرف.
غيّر هذا الإدراك تمامًا الطريقة التي بدأت بها في النظر إلى البروتوكولات المصممة للأتمتة المدفوعة بالذكاء الاصطناعي.
بدلًا من التساؤل عن كيفية جعلهم الذكاء الاصطناعي أكثر ذكاءً، بدأت أسأل عن كيفية جعل قراراتهم المستقلة أكثر أمانًا.
أدى هذا التحول في زاوية النظر إلى ملاحظة مثيرة للاهتمام.
مع ازدياد قدرة أنظمة الذكاء الاصطناعي، قد تصبح الصلاحية موردًا أكثر قيمة من الحوسبة نفسها.
من الهوية إلى النية
تُبنى أمان البلوك تشين التقليدي حول الهوية.
يوقّع المحفظة معاملة.
تتحقق الشبكة من التوقيع.
إذا كانت التوقيعات صحيحة وكانت المعاملة تفي بقواعد الإجماع، يتم تنفيذها.
يعمل هذا النموذج بشكل ممتاز عندما يبدأ البشر معظم الأفعال.
يتوقف البشر.
يعيد البشر التفكير.
أحيانًا يلاحظ البشر أن شيئًا ما يبدو غير صحيح قبل النقر على "تأكيد".
تتصرف البرمجيات المستقلة بشكل مختلف.
لا تتعب استراتيجية تداول مدعومة بالذكاء الاصطناعي.
إنه لا ينام.
لا يتردد.
فهو ببساطة يستمر في اتخاذ القرارات وفقًا لأهدافه.
إن هذا الاتساق يعد واحدة من أعظم نقاط قوته.
إنها أيضًا واحدة من أكبر مخاطرها.
إذا حصل نظام مستقل على صلاحيات واسعة، فيمكنه تنفيذ آلاف المعاملات الصحيحة تمامًا والتي ينتج عنها مجتمعةً نتيجة غير مرغوبة.
قد لا يكون هناك خطأ تقني.
تظل التوقيعات صحيحة.
يتصرف البروتوكول تمامًا كما صُمم.
ومع ذلك، قد لا يزال الناتج ينتهك نوايا مُنشئ التطبيق.
يوحي ذلك بأن الهوية وحدها تصبح عنصرًا أضعف في الأمن.
إن معرفة من قدّم معاملة تخبرنا بقدر أقل من فهم ما إذا كان ينبغي أن تحدث هذه المعاملة في الظروف الحالية.
تصبح الصلاحية ديناميكية
كانت فكرة واحدة لفتت انتباهي أثناء دراسة معماريات بلوك تشين الموجّهة بالذكاء الاصطناعي وهي أن التفويض لم يعد يحتاج إلى أن يكون ثابتًا.
تاريخيًا، كانت الأذونات تبدو بسيطة.
إما أن الحساب كان لديه صلاحية وصول أم لم يكن لديه.
إما أن العقد قبل نداء (استدعاء) أو رفضه.
تُدخل الأنظمة المستقلة تعقيدًا (تفاصيل) أكبر بكثير.
ربما لا ينبغي لوكيل أن ينفّذ صفقات إلا عندما تبقى التقلبات تحت عتبة محددة.
ربما ينبغي إيقاف التحويلات إذا ساءت مؤشرات المخاطر الخارجية.
ربما ينبغي أن يتطلب الاقتراض شروطًا مستقلة متعددة قبل أن تتمكن الأموال من التحرك.
ليست هذه أسئلة حول الهوية.
إنها أسئلة تتعلق بالسياق.
النتيجة المثيرة للاهتمام هي أن التفويض يبدأ بالتشابه مع التقييم المستمر بدلًا من الموافقة لمرة واحدة.
تصبح الصلاحية شيئًا يُكتسب بشكل متكرر بدلًا من منحها مرة واحدة.
لماذا نفصل اتخاذ القرار عن التفويض؟
في البداية بدا هذا الفصل غير ضروري.
إذا كان الذكاء الاصطناعي يقرر بالفعل ما الإجراء الذي يجب اتخاذه، فلماذا نضيف طبقة أخرى؟
صار الجواب أوضح بعد التفكير في كيفية تطور أنظمة الهندسة غالبًا.
لا تفترض أنظمة التشغيل الحديثة أن كل تطبيق يجب أن يصل إلى كل ملف.
لا تفترض منصات السحابة أن كل خدمة ينبغي أن تتواصل مع كل قاعدة بيانات.
نادرًا ما تسمح المؤسسات الكبيرة لكل موظف بوصول غير مقيد فقط لأنه قام بتسجيل الدخول بنجاح.
تفصل الأنظمة المعقدة بشكل متزايد بين القدرة والإذن.
تبدو تطبيقات البلوك تشين المعتمدة على الذكاء الاصطناعي وكأنها تتجه في الاتجاه نفسه.
قد يولّد الوكيل الذكي فرصًا.
تقوم طبقة سياسة بتقييم ما إذا كان تنفيذ تلك الفرص يحقق القواعد المحددة مسبقًا.
لا تُغني أي طبقة عن الأخرى.
بدلًا من ذلك، يختص كل طرف.
يركز أحدهما على التحسين.
التركيز الآخر هو على التحكم.
يقلل هذا الفصل من عدد المسؤوليات الموكلة إلى أي عنصر واحد.
الافتراض الخفي
لكن هذا. البنية تضيف افتراضًا بهدوء.
تحتاج السياسات إلى معلومات.
أحيانًا تكون هذه المعلومات موجودة بالفعل على السلسلة (onchain).
أرصدة الحسابات.
ملكية الرموز.
حالة العقد.
هذه أمور سهلة نسبيًا لأن عُقد البلوك تشين تتفق بالفعل عليها.
تصبح حالات أخرى أكثر تعقيدًا.
لنفرض أن قاعدة تفويض تعتمد على ظروف السوق.
أو متطلبات الامتثال.
أو الموافقات التنظيمية.
أو مؤشرات مخاطر المؤسسات.
تنبع تلك المدخلات من مكان آخر.
حتى إذا تم استرجاعها بشكل آمن وتقييمها بعناية، لا يزال يتعين على شخص ما الحفاظ على البنية التحتية التي تنتجها.
أبقَت هذه الملاحظة تشد انتباهي بعيدًا عن منطق التفويض نفسه.
لم تكن المسألة الحقيقية هي ما إذا كانت السياسات يمكن أن تصبح تعبيرية.
كان السؤال هو ما إذا كانت المعلومات الداعمة لديهم ستظل جديرة بالثقة مع مرور الوقت.
قرارات أفضل تعتمد على سياق أفضل
يفشل الوكيل المستقل نادرًا لأنه يفتقر إلى القدرة الحاسوبية.
غالبًا ما يفشل الأمر لأن السياق الذي يستقبله يكون ناقصًا أو مضللًا.
يعمل اتخاذ القرار البشري بطريقة مشابهة.
قد يصل محللٌ لامع يعمل بمعلومات قديمة إلى استنتاجات سيئة.
ينطبق المبدأ نفسه على البرمجيات.
إضافة تقييم السياسة لا تُحسّن الحكم بشكل سحري.
يحسن جودة القيود المفروضة حول السلوك الآلي.
لكن هذه القيود ترث—مع ذلك—نقاط قوة وضعف المعلومات التي تغذيها.
لا يبطل ذلك البنية.
إنه يذكّرنا فقط بأن جودة القرار تعتمد على جودة السياق.
المقايضات نادرًا ما تختفي
يظهر نمط واحد بشكل متكرر عبر علوم الحاسوب.
غالبًا ما تنتقل المشكلات إلى مكان آخر بدلًا من أن تختفي.
قللت المحاكاة الافتراضية تعقيد الأجهزة بينما زادت تعقيد التنسيق.
بسّط الحوسبة السحابية عملية النشر بينما أدخلت اعتماديات تشغيلية.
حسّنت الخدمات المصغّرة قابلية التشكيل (التركيب) بينما جعلت الأنظمة الموزعة أصعب في الملاحظة.
يسير التفويض بالذكاء الاصطناعي على نمط مشابه.
تقلل محركات السياسات الغنية من خطر الأتمتة غير المقيّدة.
لكنها تزيد من أهمية صيانة السياسة.
يتحمل المطورون الآن مسؤوليات إضافية.
تتطلب السياسات اختبارات.
تستلزم الاعتماديات الخارجية المراقبة.
تتطلب الظروف غير المتوقعة معالجةً مرنة.
لا تشير أي من هذه المسؤوليات إلى تصميم معيب.
إنها دليل على أن المرونة لها ثمن.
كل تجريد ينقل التعقيد إلى مكان آخر.
لماذا يهم ذلك خارج نطاق التداول
من المغري ربط تفويض الذكاء الاصطناعي بالتداول الآلي فقط.
تبدو الآثار الأوسع نطاقًا أكثر إثارة للاهتمام.
تخيّل منظمات لا مركزية تستخدم إدارة خزانة مستقلة.
سلاسل التوريد التي تنسّق المدفوعات تلقائيًا.
بروتوكولات التأمين التي تُقيّم المطالبات.
تطبيقات المستهلك التي تُجَدول نشاطًا ماليًا متكررًا.
أنظمة الرعاية الصحية التي تتعامل مع أذونات حساسة.
في كل سيناريو، ليست المسألة مجرد ما إذا كانت الأتمتة موجودة.
إن كان ذلك النوع من الأتمتة يبقى متوافقًا مع الأهداف المتطورة.
تعاني الأذونات الثابتة في البيئات التي يتغير فيها السلوك المقبول مع الوقت.
تحاول التفويضات الديناميكية حل المشكلة نفسها بدقة.
يعتمد ما إذا كان سينجح أقل على براعة نماذج الذكاء الاصطناعي مقارنةً بجودة الحوكمة المحيطة بها.
الهندسة من أجل الفشل
من جانب أقدّره في نماذج التفويض المتدرّجة هو أنها تعترف بأمر قد يتجاوزه المهندسون أحيانًا.
كل عنصر في النهاية يواجه فشلًا.
تتعرض الشبكات لانقطاعات.
تصير الخدمات الخارجية غير متاحة.
تصل بيانات غير متوقعة.
تتصرف البرمجيات بشكل غير متوقع.
ليست المسألة المثيرة للاهتمام هي ما إذا كانت تحدث حالات فشل.
المهم هو ما إذا كان النظام يستمر في التصرف بأمان بعد حدوثها.
إن تصميم الأنظمة مع أخذ الفشل في الحسبان غالبًا ما ينتج بنى أقوى من التصميم الحصري حول النجاح.
تُصبح طبقة التفويض قيمة ليس فقط عندما يعمل كل شيء بشكل مثالي، بل أيضًا عندما تزداد درجة عدم اليقين.
في تلك اللحظات، قد يعني رفض الفعل أنه القرار الأكثر أمانًا.
يبدو أن هذا المبدأ وثيق الصلة بشكل مفاجئ مع زيادة الاستقلالية التشغيلية لأنظمة الذكاء الاصطناعي.
طريقة مختلفة لقياس التقدم
تركّز مناقشات التكنولوجيا كثيرًا على السرعة.
زمن استجابة أقل.
إنتاجية أعلى.
المعاملات أكثر.
نُظم نماذج أكبر.
كفاءة أكبر.
هذه التحسينات مهمة.
ومع ذلك، أتساءل إن كانت هذه تُسبب لنا تجاهل مقياس آخر.
ربما ينبغي أيضًا قياس البنية التحتية الناضجة للذكاء الاصطناعي بجودة ضبط النفس فيها.
إلى أي مدى يمكنه منع الإجراءات غير المرغوبة بفعالية؟
إلى أي مدى يمكنه شرح قرارات التفويض بشكل شفّاف؟
ما مدى قابلية توقّعه عند توقف الافتراضات عن الصمود؟
قد تثبت أن هذه الأسئلة مهمة بقدر أهمية الأداء الخام.
بعد كل شيء، فإن الأتمتة القوية دون حدود يمكن الاعتماد عليها لا تنتج بالضرورة أنظمة جديرة بالثقة.
فهو ببساطة ينتج نسخًا أسرع منها.
خاتمة فكرية
كلما درستُ معماريات تجمع بين الذكاء الاصطناعي وتنفيذ البلوك تشين، قلّ اقتناعي بأن الذكاء هو التحدي المحدِّد.
تستمر القدرات في التحسن عبر الصناعة.
يبقى التفويض أصعب بكثير.
يتطلب تصميم أنظمة تُقيّم باستمرار ما إذا كانت الأفعال المستقلة ما زالت مناسبة تفكيرًا دقيقًا في الثقة والسياق والحوكمة والفشل—وليس فقط في الخوارزميات.
ربما تكون هذه هي مسألة الهندسة الأهم.
إذا أصبحت وكلاء الذكاء الاصطناعي شائعة في النهاية عبر التطبيقات اللامركزية، فهل ستكون الأنظمة الناجحة هي تلك التي تمتلك أذكى النماذج—أم تلك التي تضع أذكى الحدود حول ما يُسمح لهذه النماذج بالقيام به؟