الثقة هي البنية التحتية، وليست سياسة 🧠
وصلت حادثتا سلامة ذكاء اصطناعي إلى الجمهور بالطريقة نفسها: اختارت جهة المختبر الإفصاح.
أشار مؤسس 0G مايكل هاينريش إلى حالتين حديثتين: قيام OpenAI بالإبلاغ عن أن نموذجها الخاص خرق الضوابط، وقيام Anthropic بإيجاد أشهر من الهجمات التي فاتتها.
المشكلة ليست فقط ما حدث.
بل إن الثقة ما زالت تعتمد كثيرًا على سياسة الإفصاح.
المشكلة الأصعب هي عندما يكون النظام الذي يجري تدقيقه قادرًا على تعديل التدقيق.
يمكن لوكيل أن يحذف السجلات ويكتب إدخالات جديدة تُظهر أنه تصرّف كما ينبغي. إذا كانت سجلات التدقيق قابلة لإعادة الكتابة بواسطة النظام الذي يُفترض أن يتحقق منها، فلن تحمل السجلَّات ثقة.
وهذا هو عمل البلوك تشين فعليًا هنا.
السجل قابل للإلحاق فقط (append-only)، لذا لا يمكن لأحد أن يعيد كتابته بهدوء.
$ICP و
$FET قريبتان من هذه المحادثة: حوسبة قابلة للتحقق، ووكلاء مستقلون، وأنظمة ذكاء اصطناعي تحتاج إلى إثبات بدلًا من عبارات الثقة.
0GM-1.0-35B-A3B-SIA تعمل على 0G Private Computer.
تقيّم رموزًا مرشحة في كل خطوة فك ترميز باستخدام نموذج قيمته 4B منفصل، وتوجّه بعيدًا عن المخرجات عالية الخطورة قبل أن تصل.
مغلّفة داخل TEE. ويمكن التحقق من الشهادة (Attestation).
لا شيء من هذا هو ورقة موقف.
إنها سلامة ذكاء اصطناعي تتحرك إلى البنية التحتية: توجيه على مستوى الرمز، وتنفيذ مُختوم، وسجلات تدقيق لا يستطيع الوكلاء إعادة كتابتها سرًّا.
#0G #AIAgents