تقول نتائج «Hirundo’s Qwen Cutting Censored»، المنشورة في 5 أكتوبر، إن نموذج Qwen المعدّل من Alibaba خفّض الإجابات الخاضعة للرقابة والمتوافقة مع الحزب الشيوعي الصيني من 89.8% إلى 2.8%.
أبرز النقاط
أفادت Hirundo بأن نموذج Qwen المعدّل لديها خفّض الردود الخاضعة للرقابة أو المتوافقة مع الحزب الشيوعي الصيني من 89.8% إلى 2.8% عند التعامل مع مطالبات حساسة سياسيًا
استخدمت Hirundo أداة NeMo Evaluator من Nvidia على رقائق GB200 NVL72 للتحقق من نتائجها بشأن «Qwen المُغَرَّب»
لم يتضمن الإصدار درجات معيارية للمهام غير السياسية، ولم يكشف عن توفر المنتج أو أسعاره أو حدود الاستخدام أو المناطق أو مستويات الخدمة
وجد بحث استشهدت به Hirundo من CrowdStrike أن DeepSeek كتب شيفرة أكثر عرضة للثغرات عندما ارتبط المشروع بالتبت
تفيد Hirundo بأنها أنشأت النسخة، التي أطلقت عليها اسم «Qwen بنسخة غربية»، باستخدام NeMo Evaluator من Nvidia (NVDA) على شرائح GB200 NVL72 للتحقق من النتيجة.
نتائج كبح الرقابة في Qwen
اختبر الإصدار النموذج الأساسي لـ Qwen باستخدام مطالبات حساسة سياسيًا، شملت أسئلة عن تايوان وميدان تيانانمن وسياسات الحزب الشيوعي الصيني، وهي موضوعات قد تؤثر فيها مواءمة النموذج مع الدولة الصينية على الإجابات. ووجدت Hirundo أن النموذج غير المعدّل قدّم إجابات خاضعة للرقابة أو متوافقة مع توجهات الدولة في 89.8% من الحالات.
وبعد إعادة التدريب، انخفضت النسبة إلى 2.8%.
تعزو Hirundo هذا الانخفاض إلى الضبط الدقيق الموجّه، المصمم لإزالة الاستجابات المشروطة سياسيًا دون الإضرار بالقدرات العامة. لكن الإصدار لا يقدم درجات معيارية لمهام غير سياسية، لذا لا يثبت ادعاؤها كيفية أداء النموذج المعدّل خارج نطاق هذه المطالبات.
اقرأ أيضًا: باحثو Google ينشرون طريقة تمنع وكلاء الذكاء الاصطناعي من حفظ اختباراتهم
والأهم أن هذا اختبار لإعادة التدريب أبلغت عنه الشركة، وليس دليلًا على سلوك منتج متاح على نطاق واسع في الاستخدام اليومي.
لا تحدد Hirundo مدى التوافر أو الأسعار أو حدود الاستخدام أو المناطق أو مستويات الخدمة، ما يعني عدم الإفصاح عن أي منتج يمكن للعملاء تقييمه أو نشره وفق شروط تجارية معلنة.
تُعد النماذج ذات الأوزان المفتوحة، التي تُنشر معلماتها الأساسية ليتمكن أي شخص من تنزيلها وتعديلها، محورية في صناعة الذكاء الاصطناعي، إذ يستطيع المطورون الخارجيون البناء على نموذج أساسي دون دفع رسوم استخدام للمختبر الأصلي. ويُعد Qwen، الذي طورته Alibaba، من بين أكثر النماذج ذات الأوزان المفتوحة تنزيلًا على مستوى العالم، ما يجعل التحيز السياسي المضمّن فيه مصدر قلق للشركات التي تنشره خارج الصين.
وتستشهد Hirundo أيضًا ببحث منفصل من CrowdStrike وجد أن DeepSeek الصيني كتب شيفرة أكثر عرضة للثغرات عندما أُبلغ بأن المشروع مرتبط بالتبت، ما يشير إلى أن التكييف السياسي قد يظهر في السياقات التقنية، وكذلك عند طرح أسئلة سياسية مباشرة.
تضيف هذه النتيجة نقطة بيانات إلى الأبحاث التي تتناول ما إذا كانت النماذج الصينية ذات الأوزان المفتوحة تحمل مواءمة الدولة أينما نُشرت أوزانها.
أصبح لدى الشركات التي تقارن Qwen ببدائل غربية مثل Llama من Meta معيار كمي لقياس التحيز، مع أن حافز Hirundo لبيع نسخة «مصَحَّحة» يستدعي إجراء تحقق مستقل.
اقرأ لاحقًا: Aleph Alpha تطلق Kolibri، وهو نموذج أوروبي سيادي بأوزان مفتوحة