لماذا يبدو نموذج أمان بروتوكول نيوتن أكثر عملية من معظم أتمتة الذكاء الاصطناعي
لم يتحرك السوق تقريبًا هذا الأسبوع، لذلك بدلًا من مراقبة الشموع وهي تذهب إلى لا شيء، انتهيت إلى قراءة موضوع أتمتة البلوكشين على السلسلة. بدأ الأمر بمجرّد إزعاج بسيط، تكرار نفس مهام الستيك وإدارة المحافظ مرارًا وتكرارًا. هذه الحفرة في النهاية قادتني إلى @NewtonProtocol .
كانت ردّة فعلي الأولى متشككة إلى حدّ ما. لقد أصبحت وكلاء الذكاء الاصطناعي السردية الافتراضية في عالم العملات المشفرة مؤخرًا، وتدّعي كل مؤسسة أن أتمتتها أذكى من أي شيء يقدمه الآخرون. افترضت أن هذا سيكون نسخة أخرى من تلك القصة.
لكن بعد التعمّق أكثر، أدركت أن نيوتن يتناول المشكلة من اتجاه مختلف.
تحاول معظم المشاريع تحسين الأمن بجعل الذكاء الاصطناعي نفسه أكثر ذكاءً. والافتراض هو أن الوكيل الأذكى سيتخذ قرارات أفضل. لكن يبدو أن نيوتن لا يعتمد على هذه الفكرة. بل يفترض أن الوكيل يجب ألا يتمتع بصلاحيات غير محدودة من الأساس.
يركّز تصميمه على الحدّ مما يُسمح للوكيل بفعله عبر أذونات محددة مسبقًا. وتصبح هذه الأذونات حدودًا قابلة للإنفاذ بدلًا من أن تكون مجرد توصيات. ومن خلال الجمع بين بيئات التنفيذ الموثوقة وبراهين المعرفة الصفرية، يمكن لاحقًا التحقق من كل إجراء مكتمل بمقارنته بالقواعد الأصلية، من دون كشف معلومات حساسة.
وهذا ينقل الحوار من «هل يمكنني الوثوق بهذا الذكاء الاصطناعي؟» إلى «هل يستطيع هذا الذكاء الاصطناعي أصلًا خرق القواعد التي وضعتها؟»
أرى أن هذا يشكّل أساسًا أكثر سلامة للأتمتة.
وبالطبع، يسلّط هذا الضوء أيضًا على تحدٍ مختلف.
لا يثبت التحقق سوى أن التعليمات نُفذت على نحو صحيح. لكنه لا يثبت أن التعليمات نفسها كانت سليمة.
إذا وضع أحدهم إذنًا واسعًا أكثر من اللازم أو نسي قيدًا مهمًا، فسينفذ النظام بأمانة ما تم التصريح به بالضبط. فالتشفير يؤكد الامتثال، لا سلامة التقدير.
وهكذا، لا يختفي أكبر مصدر للمخاطر، بل ينتقل إلى موضع آخر.
بدلًا من القلق أساسًا بشأن ذكاء اصطناعي لا يمكن التنبؤ بتصرفاته، ينبغي للمستخدمين التفكير مليًا في تصميم سياسات معقولة. ومن المرجح أن تدقيق هذه السياسات أسهل من الإشراف على روبوت مستقل يتمتع بإمكانية وصول غير مقيّدة إلى المحفظة، لكن ذلك يظل يتطلب تخطيطًا دقيقًا.
يبدو هذا التمييز مهمًا على نحو خاص للمؤسسات التي تدير مجمعات كبيرة من رأس المال.
عادةً ما تهتم خزينة منظمة لامركزية مستقلة (DAO)، أو جهة إصدار عملة مستقرة، أو صندوق مؤسسي بإثبات امتثال كل معاملة لقواعد الحوكمة الداخلية أكثر من اهتمامها بمدى «ذكاء» الذكاء الاصطناعي. وفي مثل هذه البيئات، يوفّر التنفيذ القابل للتحقق مساءلةً لا تستطيع الأتمتة العادية توفيرها.
أما للمستخدمين العاديين الذين يؤتمتون مهام روتينية أصغر، فما تزال الفوائد ملموسة، وإن كانت ربما أقل إحداثًا للتحول.
لن يكون المقياس الحقيقي لهذا التصميم عروضًا توضيحية مصقولة، بل مدى صمود حدود الأذونات عندما يحاول أحدهم عمدًا استغلال الحالات الطرفية أو التصرف خارج القواعد المقصودة.
هنا تُكتسب الثقة.
في الوقت الحالي، يبرز بروتوكول نيوتن بالنسبة إليّ لأنه يتعامل مع الأمن بوصفه مشكلة في تصميم الأنظمة، لا مشكلة في قدرات الذكاء الاصطناعي. وفي مجال منشغلّ بجعل الوكلاء أكثر قوة، قد ينتهي الأمر بأن يكون تقييد صلاحياتهم هو الابتكار الأهم.
#Newt #newton #NewtonProtocol $NEWT
