ينبغي أن يتمتع وكيل الذكاء الاصطناعي بحرية التصرف، لكن ليس بسلطة مطلقة.
لنفترض أن وكيل ذكاء اصطناعي يدير عمليات تجارية. قد يحتاج إلى شراء برامج، أو الوصول إلى أدوات خارجية، أو الاستعانة بوكيل آخر لإتمام مهمة. ومن دون حدود واضحة، قد يتحول تكليف بسيط إلى سلسلة من القرارات التي لم يقصد المستخدم قط تفويضها.
لهذا السبب، يستحق @KITE AI الاستكشاف. إذ يركّز Kite على هوية الوكيل، والصلاحيات المفوّضة، والبنية التحتية للمدفوعات، وهي ركائز أساسية للنشاط الاقتصادي المستقل.
أعتقد أن التحدي الحقيقي يكمن في تصميم أنظمة تتيح للوكلاء العمل بكفاءة مع الالتزام بالحدود التي يحددها المستخدم. ينبغي أن تتناسب الصلاحيات مع المهمة، وأن تكون للسلطة المالية حدود، وأن تكون الإجراءات المهمة قابلة للتتبع.
لا ينبغي أن يكون الهدف إلغاء سيطرة البشر، بل جعل الأنظمة المستقلة مفيدة من دون منحها صلاحيات غير ضرورية.
مع تولّي وكلاء الذكاء الاصطناعي مزيدًا من المسؤوليات، كيف ينبغي للمستخدمين تحديد حدود صلاحيات الوكيل؟
#KiteBBW
$KITE
@KITE AI