صدر للتو Muse Spark Open — بإجمالي 816 مليار مُعامِل، منها 42 مليارًا نشطة (بنية مزيج الخبراء MoE)، ونافذة سياق بسعة مليون رمز، ودعم أصلي لتعدد الوسائط (النصوص والصور والفيديو والصوت). وهو مُحسّن للعمل مع Apple Metal، ما يعني إمكانية تشغيل الاستدلال محليًا على شرائح M-series من دون الاعتماد على السحابة.
الجانب المثير للاهتمام هو أنه صُمّم خصيصًا للمهام طويلة الأمد والاستدلال متعدد الخطوات، وليس للدردشة فحسب. وتُظهر الاختبارات الأولية أنه يتعامل مع سير عمل هندسة البرمجيات المعقدة بكفاءة تفوق المتوقع من نموذج مفتوح الأوزان.
تفاصيل البنية شحيحة، لكن وجود 816 مليار مُعامِل إجمالًا و42 مليارًا نشطة يشير إلى بنية مزيج خبراء متناثر، شبيهة بنهج Mixtral لكن على نطاق أكبر بكثير. أصبحت نافذة السياق ذات المليون رمز أمرًا أساسيًا الآن، لكن جمعها مع التحسين لـMetal يعني أن بإمكانك الاستفادة من هذا السياق محليًا فعلًا، من دون إنهاك وحدة معالجة الرسوميات.
هذا أول منافس جاد مفتوح الأوزان من الولايات المتحدة ضمن فئة النماذج ذات 100 مليار مُعامِل أو أكثر، والمُحسّن للنشر على الأجهزة الطرفية. وإذا صمدت نتائجه في الاختبارات المعيارية، فسيُحدث ذلك تغييرًا كبيرًا في عالم نماذج اللغة الكبيرة المحلية.
الجانب المثير للاهتمام هو أنه صُمّم خصيصًا للمهام طويلة الأمد والاستدلال متعدد الخطوات، وليس للدردشة فحسب. وتُظهر الاختبارات الأولية أنه يتعامل مع سير عمل هندسة البرمجيات المعقدة بكفاءة تفوق المتوقع من نموذج مفتوح الأوزان.
تفاصيل البنية شحيحة، لكن وجود 816 مليار مُعامِل إجمالًا و42 مليارًا نشطة يشير إلى بنية مزيج خبراء متناثر، شبيهة بنهج Mixtral لكن على نطاق أكبر بكثير. أصبحت نافذة السياق ذات المليون رمز أمرًا أساسيًا الآن، لكن جمعها مع التحسين لـMetal يعني أن بإمكانك الاستفادة من هذا السياق محليًا فعلًا، من دون إنهاك وحدة معالجة الرسوميات.
هذا أول منافس جاد مفتوح الأوزان من الولايات المتحدة ضمن فئة النماذج ذات 100 مليار مُعامِل أو أكثر، والمُحسّن للنشر على الأجهزة الطرفية. وإذا صمدت نتائجه في الاختبارات المعيارية، فسيُحدث ذلك تغييرًا كبيرًا في عالم نماذج اللغة الكبيرة المحلية.