إن وميض Qwen 3.8 مدهش حقًا، وقد أصبحت llama.cpp تتطور بسرعة أكبر فأكثر في معالجة ذلك

الأعمدة هي: الموجهة الموجودة مسبقًا، الموجهة الجديدة، المُولَّدة، إدخال توكن/ث، إخراج توكن/ث

يحدث هذا على لابتوبي (strix halo). أعتقد أننا على مقربة شديدة من النقطة التي يمكنك عندها استخدام النماذج المحلية فقط لجزء كبير من المهام، وبالنسبة لأي شيء أكثر تقدمًا، تصبح سير عمل مثل "استخدم نموذجك المحلي لتنسيق الاستعلامات إلى نماذج قوية بحيث لا تتسرب استعلاماتك إلى معلوماتك الشخصية" قابلة للتطبيق بالفعل.