أثناء اطلاعي على الورقة البيضاء لـ Kite، صادفت مثالًا جعلني أتوقف وأفكر. 🤔 إذا سُمح لوكيل ذكاء اصطناعي باستخدام 100 دولار فقط يوميًا لمدة 30 يومًا، فلن يتجاوز إجمالي المبلغ الذي يمكنه التأثير فيه 3,000 دولار. وحتى لو خضع الوكيل لسيطرة كاملة، فسيظل الحد الأقصى للخسائر ضمن الحدود المحددة مسبقًا.
🔐 كنت أعتقد سابقًا أن تأمين وكلاء الذكاء الاصطناعي يعني ضمان أن يتخذ النموذج قرارات صحيحة دائمًا. لكن Kite تتبع نهجًا مختلفًا: بدلًا من المراهنة بكل شيء على سلوك الذكاء الاصطناعي، تركّز على التحكم في العواقب إذا ارتكب خطأً. يمكن للمستخدمين تحديد الحد الأقصى للخسائر مسبقًا قبل منح الصلاحيات. وإلى جانب ذلك، لا يُستخدم مفتاح الجلسة إلا مرة واحدة، ويُنشأ عنوان الوكيل اعتمادًا على محفظة المستخدم، ولا يحتفظ بصلاحيات التحكم على أعلى مستوى سوى المفتاح الرئيسي.
📊 هذا جانب يزداد اهتمامي به كلما تعمقت في فهمه. إن رقم 3,000 دولار ينطبق فعليًا فقط عندما يعمل الوكيل مع مزوّد واحد. أما إذا تعدد المزوّدون، فيُحسب إجمالي الانكشاف بجمع حد الإنفاق اليومي لكل طرف مضروبًا في مدة التفويض الممنوحة له. ولا ينخفض إجمالي المخاطر هذا إلا بوجود حدّ إجمالي مشترك للميزانية اليومية. بعبارة أخرى، قد تؤدي كل خدمة جديدة يتصل بها الوكيل إلى زيادة حجم المخاطر.
🧩 لا أعتقد أن هذه نقطة ضعف في تصميم Kite، فالورقة البيضاء أشارت إلى قواعد على مستوى الحساب يمكن تطبيقها عبر خدمات متعددة. ما أود توضيحه يتعلق بجانب آخر: لا يكون لرقم 3,000 دولار معنى حقيقي إلا إذا عرفنا أين يُطبَّق الحد الإجمالي، ومن الجهة التي تفرضه. فهذا العامل هو ما يحدد ما إذا كان هذا السقف سيظل قائمًا على امتداد جميع أنشطة الوكيل أم لا.
💭 مع تولّي وكلاء الذكاء الاصطناعي عددًا متزايدًا من المعاملات، أرى أن هناك سؤالًا جديرًا بالنقاش: من ينبغي أن يملك صلاحية تحديد الحد النهائي للإنفاق: المستخدم، أم مزوّد الخدمة، أم سلسلة الكتل نفسها؟ لكل طرف دور مختلف. وأنا مهتمة بمعرفة كيف يوزّع الناس هذه المسؤولية.