معظم الناس يرون كتلة مدتها 10 ثوانٍ ويدعون على الفور أنها سرعة. أعتقد أن هذا سطحي جداً بالنسبة لـ OpenGradient و OPG.
@OpenGradient
القيمة الحقيقية لكتلة مدتها 10 ثوانٍ ليست في ساعة التوقيت. إنها نقطة التفتيش. كل كتلة هي نافذة صغيرة يمكن أن تُسجل فيها أنشطة الذكاء الاصطناعي، يتم التحقق منها، الدفع مقابلها، وجعلها مسؤولة. هذا أهم من مجرد حركة المعاملات لأن بنية الذكاء الاصطناعي لا تحتاج فقط إلى تنفيذ سريع. OpenGradient أول مكان لاحظت فيه التكلفة لم يكن على الفاتورة. كان في دفعة كان يجب أن تتناسب، لكنها لم تفعل.
كانت وحدة المعالجة الرسومية (GPU) تبدو مشغولة، وكانت قائمة الطلبات تبدو طبيعية، ومع ذلك كانت هناك شعور غريب بالمساحة المهدرة. في البداية، ألقيت اللوم على الحوسبة. كانت تلك سهلة جداً
لهذا، فإن إدارة ذاكرة التخزين المؤقت القائمة على الصفحات تبدو أكثر أهمية لـ OpenGradient مما تبدو عليه في البداية. إنها لا تجعل OPG أرخص بالسحر. إنها تغير مقدار الوزن الزائد من الأجهزة التالفة التي يجب أن تتحملها كل استدلال مدفوع بـ OPG.
عندما تُقسم ذاكرة التخزين المؤقت إلى صفحات أصغر، يمكن للعقدة أن تضع، وتحرر، وتعيد استخدام السياق بشكل أنظف. يمكن أن تتناسب طلبات أكثر على نفس وحدة المعالجة الرسومية. تصبح الدفعات أقل هشاشة. لا تعاقب الوكلاء ذوي السياقات الطويلة النظام بشدة في كل مرة يتوقفون فيها، يعودون، أو يمددون محادثة.
ومع ذلك، لا أود أن أسمي هذا محلولاً. الإرسال يضيف عملاً جدوليًا. يمكن أن يؤدي تحرك الصفحة السيئ إلى إنشاء تأخير. لا تزال الحدود المتعلقة بالخصوصية والتحقق بحاجة إلى الانضباط. هذا يجعل إيقاع الـ 10 ثوانٍ أقل مثل مقياس الضجيج وأكثر مثل إيقاع الثقة.
بالنسبة لي، الفكرة الأقوى هي كثافة العمل الم Verified. لا ينبغي الحكم على الكتلة فقط حسب عدد المعاملات التي تحتويها. يجب الحكم عليها حسب مقدار عمل الذكاء الاصطناعي المفيد الذي تسويّه. هل سجلت نشاط الاستدلال الحقيقي؟ هل تحققّت من الأدلة أو الشهادات؟ هل دعمت العقد الموثوقة؟ هل أنشأت أنشطة OPG خدمة حقيقية، أم مجرد حركة؟
يمكن أن تكون الكتل السريعة ضعيفة إذا كانت تحمل رسائل غير مرغوب فيها، أو طلب زائف، أو أتمتة ذات جودة منخفضة. الكتل المفيدة مختلفة. إنها تخلق تسوية نظيفة، ومسارات تدقيق أفضل، وتنسيق أقوى بين الآلات.
#OPG $OPG
@OpenGradient
القيمة الحقيقية لكتلة مدتها 10 ثوانٍ ليست في ساعة التوقيت. إنها نقطة التفتيش. كل كتلة هي نافذة صغيرة يمكن أن تُسجل فيها أنشطة الذكاء الاصطناعي، يتم التحقق منها، الدفع مقابلها، وجعلها مسؤولة. هذا أهم من مجرد حركة المعاملات لأن بنية الذكاء الاصطناعي لا تحتاج فقط إلى تنفيذ سريع. OpenGradient أول مكان لاحظت فيه التكلفة لم يكن على الفاتورة. كان في دفعة كان يجب أن تتناسب، لكنها لم تفعل.
كانت وحدة المعالجة الرسومية (GPU) تبدو مشغولة، وكانت قائمة الطلبات تبدو طبيعية، ومع ذلك كانت هناك شعور غريب بالمساحة المهدرة. في البداية، ألقيت اللوم على الحوسبة. كانت تلك سهلة جداً
لهذا، فإن إدارة ذاكرة التخزين المؤقت القائمة على الصفحات تبدو أكثر أهمية لـ OpenGradient مما تبدو عليه في البداية. إنها لا تجعل OPG أرخص بالسحر. إنها تغير مقدار الوزن الزائد من الأجهزة التالفة التي يجب أن تتحملها كل استدلال مدفوع بـ OPG.
عندما تُقسم ذاكرة التخزين المؤقت إلى صفحات أصغر، يمكن للعقدة أن تضع، وتحرر، وتعيد استخدام السياق بشكل أنظف. يمكن أن تتناسب طلبات أكثر على نفس وحدة المعالجة الرسومية. تصبح الدفعات أقل هشاشة. لا تعاقب الوكلاء ذوي السياقات الطويلة النظام بشدة في كل مرة يتوقفون فيها، يعودون، أو يمددون محادثة.
ومع ذلك، لا أود أن أسمي هذا محلولاً. الإرسال يضيف عملاً جدوليًا. يمكن أن يؤدي تحرك الصفحة السيئ إلى إنشاء تأخير. لا تزال الحدود المتعلقة بالخصوصية والتحقق بحاجة إلى الانضباط. هذا يجعل إيقاع الـ 10 ثوانٍ أقل مثل مقياس الضجيج وأكثر مثل إيقاع الثقة.
بالنسبة لي، الفكرة الأقوى هي كثافة العمل الم Verified. لا ينبغي الحكم على الكتلة فقط حسب عدد المعاملات التي تحتويها. يجب الحكم عليها حسب مقدار عمل الذكاء الاصطناعي المفيد الذي تسويّه. هل سجلت نشاط الاستدلال الحقيقي؟ هل تحققّت من الأدلة أو الشهادات؟ هل دعمت العقد الموثوقة؟ هل أنشأت أنشطة OPG خدمة حقيقية، أم مجرد حركة؟
يمكن أن تكون الكتل السريعة ضعيفة إذا كانت تحمل رسائل غير مرغوب فيها، أو طلب زائف، أو أتمتة ذات جودة منخفضة. الكتل المفيدة مختلفة. إنها تخلق تسوية نظيفة، ومسارات تدقيق أفضل، وتنسيق أقوى بين الآلات.
#OPG $OPG