#opg $OPG شيء حول توزيع النماذج الكبيرة لا يتوسع بالطريقة التي يتوقعها الناس.
كنت أعتقد أن الجزء الصعب هو تخزين النموذج. ثم رأيت عملية إعادة محاولة تنقل نفس عدد الجيجابايت عبر الشبكة مرة أخرى، وأدركت أن التكلفة قد تغيّرت.
يقلل معرّف Blob من تكاليف الاتفاق، لا من المسافة. لا يزال يتعين على النموذج أن يسافر، وأن تتم التحقق منه، وأن يتنافس على المساحة المحلية. تصبح النماذج الشائعة تدريجيًا بنية تحتية. تظل النماذج النادرة أحداثًا محتملة لاستهلاك عرض النطاق.
يبدأ الأمر في الشعور أقل بأنه تخزين وأكثر بأنه تنسيق ذاكرة تخزين مؤقت تحت عدم اليقين.
وعند المقياس، قد لا يكون السؤال ما إذا كان النموذج موجودًا، بل ما إذا كانت عقد كافية تقرر أن من المجدي الاحتفاظ به قبل أن يصل طلب بدء بارد متزامن. لست متأكدًا أن هذه هي الأنظمة نفسها
@OpenGradient
#OPG #OpenGradient #AIInfrastructure $OPG
كنت أعتقد أن الجزء الصعب هو تخزين النموذج. ثم رأيت عملية إعادة محاولة تنقل نفس عدد الجيجابايت عبر الشبكة مرة أخرى، وأدركت أن التكلفة قد تغيّرت.
يقلل معرّف Blob من تكاليف الاتفاق، لا من المسافة. لا يزال يتعين على النموذج أن يسافر، وأن تتم التحقق منه، وأن يتنافس على المساحة المحلية. تصبح النماذج الشائعة تدريجيًا بنية تحتية. تظل النماذج النادرة أحداثًا محتملة لاستهلاك عرض النطاق.
يبدأ الأمر في الشعور أقل بأنه تخزين وأكثر بأنه تنسيق ذاكرة تخزين مؤقت تحت عدم اليقين.
وعند المقياس، قد لا يكون السؤال ما إذا كان النموذج موجودًا، بل ما إذا كانت عقد كافية تقرر أن من المجدي الاحتفاظ به قبل أن يصل طلب بدء بارد متزامن. لست متأكدًا أن هذه هي الأنظمة نفسها
@OpenGradient
#OPG #OpenGradient #AIInfrastructure $OPG
