كانت تطرأ على ذهني باستمرار فكرة واحدة وأنا أفكر في بروتوكول نيوتن.
اعتدنا أن نتعامل مع الإذن بوصفه غاية القرار.
بمجرد منح الوصول، يبدو التنفيذ الخطوة التالية الطبيعية.
بالنسبة للبشر، غالبًا ما تعمل هذه الفرضية لأننا نعدّل قراراتنا باستمرار دون أن نلاحظ ذلك حتى.
لا تعمل وكيلٌ ذكاء اصطناعي هكذا.
إنه يتبع ما سُمِح له بفعله.
يبدو هذا الاختلاف صغيرًا حتى يتغير السياق.
قد لا يزال لدى المحفظة إذنٌ ما.
قد لا يزال بإمكان سياسةٍ ما التحقق.
ومع ذلك، قد تكون نية المستخدم الأصلية قد تغيّرت بالفعل.
إن الفجوة بين الصلاحية والنية تبدو أكثر أهمية مما أدركته أولًا.
كلما فكرت أكثر في بروتوكول نيوتن، شعرت أن معماريته ليست معنية فقط بالسماح بالإجراءات.
إنه يشجعنا على التفكير فيما إذا كان الفعل لا يزال يستحق الحدوث عندما يحين وقت التنفيذ.
هذا الفرق الدقيق مهم.
لأن الأنظمة الذاتية لن تفشل دائمًا لأنها خبيثة.
أحيانًا سيفشلون لأنهم ينفّذون بدقّةً صلاحيات لم تعد تمثّل ما يريده المستخدم فعليًا.
ربما لا يتمثل مستقبل بنية تحتية للذكاء الاصطناعي في إنشاء وكلاء أكثر قدرة.
ربما الأمر يتعلق بضمان أن كل إجراء مُصرَّح به يظل يعكس النية الحقيقية، حتى مع تغيّر السياق.
كلما فكرت أكثر في الأمر، أدركت أن الثقة ليست فقط مسألة أمن.
إنه يتعلق بالمواءمة.
إنها المواءمة بين ما كان يريده المستخدم، وما تسمح به السياسة، وما يصل أخيرًا إلى التنفيذ.
ربما تكون إحدى الدروس الهادئة المخفية داخل بروتوكول نيوتن.
ليس الأمر أن الصلاحية موجودة.
لكن هذه الصلاحية وحدها لا ينبغي أبدًا أن تُفهم خطأً على أنها نية.
الفكرة الختامية
بما أن الأنظمة الذاتية تصبح أكثر استقلالًا، فهل ينبغي للتفويض أن يقيس الوصول… أم ينبغي له أن يحمي باستمرار نية المستخدم؟
