$OPG تعلّم معظم الدروس حول الذكاء الاصطناعي كيفية بناء الوكلاء.
قليل منها يعلمك كيفية الثقة بهم.
هذه هي المشكلة الحقيقية.
مع بدء الوكلاء الذكائيين في اتخاذ القرارات، وتحريك الأموال، وتنفيذ المعاملات، والتفاعل مع المستخدمين بشكل مستقل، لم يعد "الذكاء" كافياً.
نحتاج إلى أنظمة ذكاء اصطناعي يمكن تدقيقها.$POL
هنا تأتي أهمية الذكاء الاصطناعي القابل للتحقق.
يجب أن يجيب الوكيل الذكي القابل للتدقيق على أربعة أسئلة أساسية:
1. أي نموذج أنتج هذا الناتج؟
2. هل تم التلاعب بالاستنتاج؟
3. هل يمكن لأي شخص التحقق من التنفيذ؟
4. هل اتبع الوكيل القواعد المحددة مسبقًا؟
معظم أنظمة الذكاء الاصطناعي اليوم لا تستطيع الإجابة على هذه الأسئلة بوضوح.
كل شيء يحدث خلف واجهات برمجة التطبيقات المغلقة.
ترسل موجهًا.
تحصل على رد.
تثق في الصندوق الأسود.$EDEN
هذا النموذج لا يتوسع للوكلاء المستقلين.
الجيل القادم من بنية الذكاء الاصطناعي يحتاج إلى:
→ التحقق من الاستنتاج
→ أنظمة إثبات تشفيرية
→ سجلات تنفيذ شفافة
→ اتخاذ القرارات المتصلة بالعقود الذكية
لهذا أجد نهج @OpenGradient مثيرًا للاهتمام.
بدلاً من التعامل مع الذكاء الاصطناعي كمساعد مغلق، Treat OpenGradient كبنية تحتية قابلة للتحقق.
هذا يغير المحادثة تمامًا.
تخيل وكيل ذكاء اصطناعي يقوم بـ:
- تنفيذ إجراءات على السلسلة،
- تخزين سجلات تنفيذ شفافة،
- إنتاج إثباتات استنتاج قابلة للتحقق،
- ويمكن تدقيقه بعد كل قرار.
الآن يصبح الذكاء الاصطناعي مسؤولاً.
والمسؤولية هي ما يميز عرض الدمى الذكائية عن الأنظمة المستقلة في العالم الحقيقي.
شخصيًا، أعتقد أن القابلية للتدقيق ستصبح واحدة من أهم الطبقات في الذكاء الاصطناعي خلال السنوات القليلة المقبلة.
ليس لأن المستخدمين يهتمون بـ "أنظمة الإثبات" تقنيًا —
لكن لأن الثقة تصبح حاسمة بمجرد أن يبدأ الذكاء الاصطناعي في التصرف بشكل مستقل.
المستقبل ليس مجرد ذكاء اصطناعي ذكي.
إنه ذكاء اصطناعي يمكنه إثبات ما فعله.
#OPG
قليل منها يعلمك كيفية الثقة بهم.
هذه هي المشكلة الحقيقية.
مع بدء الوكلاء الذكائيين في اتخاذ القرارات، وتحريك الأموال، وتنفيذ المعاملات، والتفاعل مع المستخدمين بشكل مستقل، لم يعد "الذكاء" كافياً.
نحتاج إلى أنظمة ذكاء اصطناعي يمكن تدقيقها.$POL
هنا تأتي أهمية الذكاء الاصطناعي القابل للتحقق.
يجب أن يجيب الوكيل الذكي القابل للتدقيق على أربعة أسئلة أساسية:
1. أي نموذج أنتج هذا الناتج؟
2. هل تم التلاعب بالاستنتاج؟
3. هل يمكن لأي شخص التحقق من التنفيذ؟
4. هل اتبع الوكيل القواعد المحددة مسبقًا؟
معظم أنظمة الذكاء الاصطناعي اليوم لا تستطيع الإجابة على هذه الأسئلة بوضوح.
كل شيء يحدث خلف واجهات برمجة التطبيقات المغلقة.
ترسل موجهًا.
تحصل على رد.
تثق في الصندوق الأسود.$EDEN
هذا النموذج لا يتوسع للوكلاء المستقلين.
الجيل القادم من بنية الذكاء الاصطناعي يحتاج إلى:
→ التحقق من الاستنتاج
→ أنظمة إثبات تشفيرية
→ سجلات تنفيذ شفافة
→ اتخاذ القرارات المتصلة بالعقود الذكية
لهذا أجد نهج @OpenGradient مثيرًا للاهتمام.
بدلاً من التعامل مع الذكاء الاصطناعي كمساعد مغلق، Treat OpenGradient كبنية تحتية قابلة للتحقق.
هذا يغير المحادثة تمامًا.
تخيل وكيل ذكاء اصطناعي يقوم بـ:
- تنفيذ إجراءات على السلسلة،
- تخزين سجلات تنفيذ شفافة،
- إنتاج إثباتات استنتاج قابلة للتحقق،
- ويمكن تدقيقه بعد كل قرار.
الآن يصبح الذكاء الاصطناعي مسؤولاً.
والمسؤولية هي ما يميز عرض الدمى الذكائية عن الأنظمة المستقلة في العالم الحقيقي.
شخصيًا، أعتقد أن القابلية للتدقيق ستصبح واحدة من أهم الطبقات في الذكاء الاصطناعي خلال السنوات القليلة المقبلة.
ليس لأن المستخدمين يهتمون بـ "أنظمة الإثبات" تقنيًا —
لكن لأن الثقة تصبح حاسمة بمجرد أن يبدأ الذكاء الاصطناعي في التصرف بشكل مستقل.
المستقبل ليس مجرد ذكاء اصطناعي ذكي.
إنه ذكاء اصطناعي يمكنه إثبات ما فعله.
#OPG
