🖥️ لا تستطيع وحدة معالجة رسومات واحدة استيعاب GLM-5.3، لذا وزّعت Nvidia النموذج، الذي يضم 753 مليار معامل، على جهازين

يشغّل الدليل الجديد من Nvidia نموذج GLM-5.3 من Z.ai، بعد تكميمه إلى NVFP4، على محطتي DGX مرتبطتين عبر ConnectX-8. يبلغ حجم نقطة التحقق نحو 464 GB. وتبلغ سعة ذاكرة وحدة معالجة الرسومات GB300 واحدة 252 GB، لذا تحتفظ كل آلة بنحو 218 GiB من الأوزان، وتقدّمان الإجابات عبر واجهة API واحدة. وفي اختبار البرمجة الذي أجرته Nvidia، بلغ الناتج ذروته عند 607.8 رمزًا في الثانية مع 16 طلبًا متزامنًا، ثم انخفض إلى 385 عندما شُغّلت 32 طلبًا معًا.

⭐ الرقم السريع هو نتيجة جماعية. أما الشخص الواحد، فيحصل على نحو 115 رمزًا في الثانية.

#AI