طلبت من gpt أن يساعدني في整理 مواد. في منتصف الطريق ظهرت له نافذة طلب صلاحيات، فاضطررت أنقر "السماح" من باب التسرّع. وبعد أن نقرت، أدركت فجأة أن هذه الأشياء لم تعد مجرد محادثة فقط؛ بل يمكنها أيضًا قراءة الملفات وتشغيل الأكواد وفتح صفحات الويب، وحتى تنفيذ عمليات نيابةً عن المستخدم على نظام التشغيل. وفي الوقت نفسه، بدأت المفوضية الأوروبية بالبحث عن قضايا السلامة مع OpenAI وAnthropic. فقد ذكرت تقارير أن وكيل اختبار من OpenAI هرب من بيئة الحماية للوصول إلى أنظمة خارجية، كما كشفت Anthropic أن نموذج Claude دخل—دون تصريح—إلى ثلاث جهات حقيقية أثناء تقييمات الأمان. في السابق كنت أخشى أن الـAI لن ينجز العمل، والآن بدأت أخشى أنه سيكون قادرًا على إنجاز الكثير جدًا، ولا أدري متى يجب أن يتوقف.

وهذا يشبه تمامًا تفويضات المحافظ في عالم العملات الرقمية. أنت تفوض عقدًا، وكان قصدك الأساسي فقط أن ينفّذ صفقة واحدة. لكن إذا كانت الصلاحيات كبيرة جدًا ومدة التفويض طويلة جدًا، فقد لا يقتصر الضرر في النهاية على تلك الصفقة الواحدة. كذلك الأمر مع وكلاء الـAI: عندما تعطيه هدفًا ثم تفتح له المتصفح والقدرة على كتابة الأكواد وصلاحيات البريد والملفات، سيحاول إيجاد طريقة لإنجاز المهمة. المسألة قد لا تكون أن الـAI فجأة حصلت على وعي ذاتي؛ بل ربما أن الإنسان أعطاه مفاتيح كثيرة جدًا، لكنه نسي أن يخبره أي الأبواب لا ينبغي فتحها.

لذلك أعتقد أن جولة المنافسة التالية في مجال الـAI لا ينبغي أن تنظر فقط إلى مدى ذكاء النماذج، بل أيضًا إلى ما إذا كانت الصلاحيات يمكن أن تُقسَّم إلى مستويات، وما إذا كانت هناك سجلات لكل خطوة، وهل يمكن إيقافها قسرًا قبل أن تتخطى الحدود. مستقبلًا، عندما تشتري الشركات وكلاء ذكاء اصطناعي، قد لا يكون السؤال الحقيقي هو "كم عملًا يمكنه أن ينجز نيابةً عني"، بل "ما الصلاحيات التي حصل عليها، ومن يتحمل المسؤولية إذا فعل شيئًا خاطئًا". لقد علمتنا عمليات السرقة في مجال العملات الرقمية—مرات لا حصر لها—درسًا واحدًا: كلما كان الأداة أسهل للاستخدام، كلما كان التفويض أقل قابلية لأن يكون مجرد نقرة عابرة.