لقد كنت أحدق في سوق مسطّحة منذ ثلاثة أيام. لا تذبذب، لا إثارة، فقط حركة سعر أفقية تجعلك تتساءل لماذا فتحت حتى الطرفية.
لذلك فعلت أخيرًا ما كنت أؤجله. أغلقت تلك التبويبات التي كنت أنوي قراءتها. كانت إحداها عن بروتوكول نيوتن ( $NEWT ). لم أفتحه إلا لأنني كنت أستمر في رؤية ( @NewtonProtocol ) يتكرر في نقاشات وكلاء الذكاء الاصطناعي.
اعتقدت أنني سأطلع عليه لمدة خمس دقائق.
انتهى بي الأمر أن جلست هناك لأكثر من ساعة.
هذه هي الفكرة التي أوقفتني تمامًا. إنهم يروّجون لهذا المفهوم عن "عملاء ذكاء اصطناعي جديرين بالثقة". فرض سياسات الامتثال قبل إجراء المعاملة. قواعد Rego. شهادات TEE. شبكة مشغّلين لامركزية. كل الكلمات الطنانة الصحيحة.
وبصراحة؟ على الورق يبدو الأمر متينًا. يريد الوكيل تبديل الرموز (tokens)، أو دفع شخص ما، أو تنفيذ إجراء متكرر. قبل أن يُسمح له بذلك، يتحقق النظام من ذلك مقابل قواعد محددة مسبقًا. شبكة تعمل داخل بيئات التنفيذ الموثوقة (Trusted Execution Environments) تنتج إيصالًا (receipt) تشفيرياً. يمكن لأي شخص التحقق من هذا الإيصال على Newton Explorer.
رائع. ممتاز. أحب ذلك.
لكن بعد ذلك عدت وقرأت العبارة نفسها من جديد: "يجعل وكلاء الذكاء الاصطناعي أكثر موثوقية".
وشيء ما لم يكن مرتاحًا لي.
دعني أوضح ما الذي أزعجني. نيوتن لا تتحقق فعليًا من أن الوكيل موثوق. هي تتحقق فقط من أن معاملة واحدة بعينها طابقت قاعدة. هذان أمران مختلفان تمامًا.
وماذا عن الوكيل نفسه؟ صندوق أسود بالكامل. نيوتن لا تنظر داخله أبدًا. لا تدقق في منطقه، ولا في بيانات تدريبه، ولا في حوافزه، ولا حتى فيما إذا كان يحسن سرًا لخدمة من بناه بدلًا من خدمتي أنا.
كل ما يتحقق منه هو: هل خرج هذا يفي بشرط؟ نعم أم لا.
هذه ليست ثقة في الوكيل. هذه ثقة في نقطة التحقق.
فكّر في الأمر هكذا. إذا كان على المشغّل أن يضع NEWT كضمان، فهذا نموذج اقتصادي. لديه "جلد في اللعبة". إذا تم الإمساك به وهو يغش في السياسة، سيفقد المال.
لكن هذا لا يخبرني إطلاقًا ما إذا كان أسلوب اتخاذ الوكيل للقرار جيدًا أم لا.
هنا يبدأ الأمر المخيف. يمكن لوكيل "ملتزم تمامًا بالسياسات" أن يظل يقرر قرارًا سيئًا للغاية. ما دام ذلك القرار السيئ يمر تقنيًا عبر قاعدة Rego التي كتبها شخص ما، فسيتم تمريره. قانون هارتمان (Goodhart) لا يهتم بإثباتاتك.
ثم توجد قطعة الـ TEE التي ما زالت تزعجني.
الإثباتات (attestations) من بيئة تنفيذ موثوقة (Trusted Execution Environment) ليست هي نفسها إثباتات المعرفة الصفرية (zero-knowledge proofs). إثبات المعرفة الصفرية قابل للتحقق رياضيًا. لا يتطلب منك الثقة في أحد. أما إثباتات الـ TEE؟ في مستوى ما، أنت تثق بأن الحجرة الآمنة الخاصة بشركة Intel لم يتم اختراقها.
ليس هذا شيئًا تافهًا. لكنه نوع مختلف من "قابلية التحقق" عن الذي تعد به التشفير عادةً. ولا أظن أن أغلب الناس الذين يتصفحون نقاشًا على منصة نيوتن يدركون هذا الفرق.
الآن، لا تأخذني على غير مقصدي. كل هذا لا يعني أن النظام بلا معنى.
إن فرض السياسات قبل تنفيذ المعاملة مفيد حقًا. فهو يمنع وكيلًا مارقًا أو معيبًا من القيام بشيء كارثي ينتهك قاعدة واضحة. كما أن وجود سجل علني للإيصالات يهم المؤسسات التي تحتاج إلى سجلات تدقيق (audit logs). هذا الجزء حقيقي.
الأمر أضيق من "الذكاء الاصطناعي الوكيل موثوق" فقط.
هو أقرب إلى: "السياج قام بعمله".
هذا شيء جيد أن يكون لديك. لكنه ليس الشيء نفسه.
أنا أعود وأبتعد بين فكرة أن هذا التفريق مهم للمستخدم العادي أم لا.
ربما لا يهم إلا لشخص يبني سياسات فعليًا فوق نيوتن. وربما لا ترى الفرق إلا تحت الضغط. عندما يكتشف الوكيل حالة حافة لم تكن قاعدة Rego قد توقعتها. عندما يبقى "ملتزمًا" تقنيًا وهو يقوم بشيء لم يرده أحد.
الوكيل نفسه يبقى صندوقًا أسود. الإدراك، الحوافز، بيانات التدريب. كل ذلك يظل غامضًا. نحن نبني نظامًا يكون فيه الالتزام قابلًا للتحقق، لكن الذكاء ليس كذلك.
انظر، لست أقول إن نيوتن سيئ. وظيفة السياج (guardrail) قيمة. إيقاف وكيل معيب من تفريغ محفظتك له فائدة حقيقية. لكن إذا كنت تراهن على "الثقة بالوكيل"، فأنت تراهن على الميزة الخطأ.
السؤال الحقيقي ليس ما إذا كانت نيوتن تجعل الوكلاء أكثر موثوقية.
الأمر هو ما إذا كان السوق سيدرك الفرق قبل استغلال ثغرة أم بعده.
على أي حال. السوق ما يزال مسطحًا. أظن أنني يجب أن أتحقق إن كان هذا الإطلاق (unlock) بعد بضعة أسابيع قد تم تسعيره بالفعل.
لكن هذا ما زال يدور في رأسي.