هل يستطيع نيوتن جعل أذونات الذكاء الاصطناعي أسهل في الإلغاء من منحها؟

ظللت أفكر في ما يحدث بعد أن يمنح شخص ما وكيلًا ذكاءً اصطناعيًا إذنًا بالتصرف.
تركز معظم المحادثات على كيفية منح الأذونات، لكن ماذا لو تغيّرت الظروف؟
استراتيجية تداول لم تعد منطقية. مالك المحفظة يفقد الثقة في وكيل ذكاء اصطناعي. وتحتاج السياسة إلى أن تصبح أكثر تقييدًا بعد اكتشاف مخاطرة جديدة.

قد لا تكمن التحديات الحقيقية في منح الإذن.

قد تكمن في تغييره أو إزالته بأمان.
مما قرأتُه، يبدو أن بروتوكول نيوتن مصمم حول التفويض المعتمد على السياسات بدلًا من التفويض غير المحدود. تتطلب الإجراءات المحمية التحقق من السياسة قبل التنفيذ، مما يتيح تحديث الأذونات مع مرور الوقت بدلًا من بقائها محل ثقة دائمة.

هذا ما لفت انتباهي كخيار تصميم مهم.
الأمن ليس فقط مسألة تقرير من يمكنه التصرف اليوم.

بل أيضًا جعل قرارات الغد سهلة التغيير.
في الوقت نفسه، فإن تغيير سياسة لا يضمن تلقائيًا نتائج أفضل.
قد تؤدي سياسة مصممة بشكل سيئ إلى خلق احتكاك غير ضروري، بينما قد تترك السياسة شديدة السماح المستخدمين مكشوفين لمخاطر لم يكونوا ينوون قبولها.

يمكن للتقنية أن تفرض القواعد.

لكنها لا تستطيع أن تقرر ما إذا كانت القواعد نفسها هي الصائبة.

بالنسبة لي، هنا يصبح نيوتن مثيرًا للاهتمام.
قد لا يأتي القيمة طويلة الأجل من الأتمتة بحد ذاتها بقدر ما تأتي من منح المستخدمين الثقة بأن الأتمتة تظل تحت سيطرتهم مع تغيّر الظروف.

ما رأيك؟ مع تزايد قدرة وكلاء الذكاء الاصطناعي، هل ستصبح القدرة على تحديث الأذونات أو إلغائها بنفس أهمية منحها من الأساس؟

@NewtonProtocol
$NEWT #Newt #newt