#opg $OPG كلما نظرت إلى بنية @OpenGradient، شعرت أن التحدي الحقيقي ليس في تخزين نماذج الذكاء الاصطناعي أو حتى تأمين الاستدلال—بل في تنسيق الندرة.
#Walrus تحل جزءًا من المشكلة عن طريق فصل تخزين النماذج الكبيرة عن توافق السلسلة. يحتاج المدققون فقط إلى مراجع مضغوطة، وليس النموذج الأساسي بالكامل. ولكن خلال حدث بدء التشغيل البارد المتزامن، يتحول الاختناق من التخزين إلى التوزيع.
تخيل خمسة أو خمسين عقدة استدلال تطلب نفس النموذج الكبير في وقت واحد.
في هذه المرحلة، يتم تحديد القابلية للتوسع بشكل أقل من حيث مكان تخزين النموذج وأكثر من:
• معدلات ضرب الكاش عبر الشبكة
• عرض النطاق المتاح بين العقد
• كفاءة الاسترجاع المتوازي
• تحديد المواقع مسبقًا للنماذج المستخدمة بشكل متكرر
• مدى سرعة تحول النماذج الباردة إلى بنية تحتية "ساخنة"
السؤال المثير هو ما إذا كانت الطلبات نفسها تصبح إشارة التخزين المؤقت. تهاجر النماذج الشعبية بشكل طبيعي بالقرب من الطلب على الاستدلال، بينما تبقى النماذج ذات الذيل الطويل تستنزف عرض النطاق الترددي في كل مرة يتم استدعاؤها.
في الوقت نفسه، تعتمد
@OpenGradient على #EigenLayer مما يقدم طبقة أخرى من التنسيق. يوفر @ETH المعاد تخزينه الأمان الاقتصادي، لكن تحقق استدلال الذكاء الاصطناعي ليس عبئًا تقليديًا على البلوكشين. الافتراضات الأمنية التي تعمل من أجل التوافق لا تضمن تلقائيًا المرونة ضد الاختناقات المحددة للاستدلال، أو تأخيرات توفر البيانات، أو فشل توزيع النماذج.
لذا، قد تكون المقياس الرئيسي ليس سعة التخزين أو رأس المال المعاد تخزينه.
قد تكون كفاءة تحويل الشبكة للأصول الباردة إلى بنية تحتية ساخنة تحت الطلب المفاجئ.
وهنا تبدأ الاختبارات الحقيقية.
$OPG @OpenGradient #AIInfrastructur #DeAI #Restaking #EigenLayer