لا تُبالغ في الحديث عن قوة الحوسبة؛ جوهر الذكاء الاصطناعي اللامركزي هو الاستضافة لـ"الأعمال القذرة"
في الشهر الماضي كنت أريد نشر 5 نماذج صغيرة عمودية درّبتها فريقياً على منصة لا مركزية. النتيجة؟ تعثّرت واشتغلت حتى الساعتين بعد منتصف الليل. في النهاية اكتشفت أن السبب وراء تعطل التشغيل كان شيئًا بسيطًا جدًا: حرف واحد في حالة (كبيرة/صغيرة) ضمن متغيرات البيئة لم يكن مطابقًا. في تلك اللحظة أدركت الحقيقة: خلال ثلاثة أيام كاملة، كان 80% من الوقت يُهدر في جعل النظام يتكيّف مع المنصة، أي كأنني أؤدي دور"محول بشري". أما اختبار منطق العمل الحقيقي فلم يتجاوز ساعتين.
أكثر ما ينقص هذا المجال ليس قوة الحوسبة، بل خط أنابيب استضافي يسمح لك بـ"إرسال كل شيء بنظرة واحدة وتشغيله تلقائيًا".
بعد ذلك، عندما تفكّكت معماريّة HACA لدى OpenGradient، شعرت لأول مرة أن هناك من قام بعمل صيانة وتشغيل على أرض الواقع فعلاً. لقد أنجز شيئًا غير مُغْرٍ جدًا لكنه يُنقذ الحياة: تغليف النموذج وتحويله إلى خط أنابيب قياسي.
الجوهر هو طبقة التكييف. فهمي لها هو أنها تقوم بربط العمليات (operators) من أطر عمل مختلفة مثل PyTorch وONNX بشكل مباشر، بحيث تُحوَّل بالقوة إلى تمثيل وسيط موحّد (IR). بمعنى آخر: كأنها تضيف"مترجمًا عالميًا"؛ أنت تمرر أي صيغة، وهي تحوّلها لتصبح لغة يفهمها النظام.
طبقة الجدولة أكثر ذكاءً. فهي تُجزئ مخطط الحساب تلقائيًا بناءً على حجم معاملات النموذج: على بطاقات ذاكرة عالية كبيرة للأحجام الكبيرة، وعلى عقد ذات قدرة حوسبية أقل للأحجام الصغيرة. لا داعي لاختيار نوع الجهاز يدويًا. كما أن التصميم القائم على الإضافات يعني أنه في المستقبل، عند ظهور بنية جديدة مثل Mamba، يكفي فقط إضافة Plugin وسينضم كل شيء—محرك الجدولة في الطبقة الأساسية لا يحتاج إلى تغيير.
هذا بالنسبة لفريقنا الذي يشغّل عددًا كبيرًا من النماذج المتنوعة ليس مجرد توفير وقت؛ بل توفير للشعر أيضًا. #OPG
بالطبع لا تروّجوا له كأنه شيء خارق. إذا علّقت مئات النماذج معًا في الوقت نفسه، فستظهر مشاكل تخصيص التخزين والتحقق من حقوق الملكية بوضوح. الجهة الرسمية حتى الآن لم تُقدّم حلًا مثاليًا في هذا الجانب، لذلك يجب الاستمرار في المتابعة والتقييم. $OPG
لكن حكمي صريح جدًا: المنصات التي تقضي يومها في تَتْبُيع نتائج القياس (benchmarks) على مدى سنتين، غالبًا ستتلقى ضربة قاضية من بنية تحتية لاستضافة أقوى. السبب بسيط: الحوسبة يمكن جمعها بالمال، لكن"الاستضافة القياسية على نطاق واسع" هذا العمل يحتاج إلى القدرة على التعاطي مع المطورين.
اتجاه OpenGradient قد أصاب الطريق: إذا استُكملت الخطوات اللاحقة المتعلقة بالتخزين وحقوق الملكية، سأنتقل فورًا بتركيزنا على النموذج الرئيسي. والاستثمار أيضًا مثل ذلك: لا تصدّقوا عروض الـPPT؛ صدّقوا تجربة النشر على أرض الواقع—ذلك الشعور بـ"عدم التوتر" أثناء تشغيله لأول مرة—هذه هي الحقيقة التي تكشفها دورة الاختبار عبر الزمن. @OpenGradient
في الشهر الماضي كنت أريد نشر 5 نماذج صغيرة عمودية درّبتها فريقياً على منصة لا مركزية. النتيجة؟ تعثّرت واشتغلت حتى الساعتين بعد منتصف الليل. في النهاية اكتشفت أن السبب وراء تعطل التشغيل كان شيئًا بسيطًا جدًا: حرف واحد في حالة (كبيرة/صغيرة) ضمن متغيرات البيئة لم يكن مطابقًا. في تلك اللحظة أدركت الحقيقة: خلال ثلاثة أيام كاملة، كان 80% من الوقت يُهدر في جعل النظام يتكيّف مع المنصة، أي كأنني أؤدي دور"محول بشري". أما اختبار منطق العمل الحقيقي فلم يتجاوز ساعتين.
أكثر ما ينقص هذا المجال ليس قوة الحوسبة، بل خط أنابيب استضافي يسمح لك بـ"إرسال كل شيء بنظرة واحدة وتشغيله تلقائيًا".
بعد ذلك، عندما تفكّكت معماريّة HACA لدى OpenGradient، شعرت لأول مرة أن هناك من قام بعمل صيانة وتشغيل على أرض الواقع فعلاً. لقد أنجز شيئًا غير مُغْرٍ جدًا لكنه يُنقذ الحياة: تغليف النموذج وتحويله إلى خط أنابيب قياسي.
الجوهر هو طبقة التكييف. فهمي لها هو أنها تقوم بربط العمليات (operators) من أطر عمل مختلفة مثل PyTorch وONNX بشكل مباشر، بحيث تُحوَّل بالقوة إلى تمثيل وسيط موحّد (IR). بمعنى آخر: كأنها تضيف"مترجمًا عالميًا"؛ أنت تمرر أي صيغة، وهي تحوّلها لتصبح لغة يفهمها النظام.
طبقة الجدولة أكثر ذكاءً. فهي تُجزئ مخطط الحساب تلقائيًا بناءً على حجم معاملات النموذج: على بطاقات ذاكرة عالية كبيرة للأحجام الكبيرة، وعلى عقد ذات قدرة حوسبية أقل للأحجام الصغيرة. لا داعي لاختيار نوع الجهاز يدويًا. كما أن التصميم القائم على الإضافات يعني أنه في المستقبل، عند ظهور بنية جديدة مثل Mamba، يكفي فقط إضافة Plugin وسينضم كل شيء—محرك الجدولة في الطبقة الأساسية لا يحتاج إلى تغيير.
هذا بالنسبة لفريقنا الذي يشغّل عددًا كبيرًا من النماذج المتنوعة ليس مجرد توفير وقت؛ بل توفير للشعر أيضًا. #OPG
بالطبع لا تروّجوا له كأنه شيء خارق. إذا علّقت مئات النماذج معًا في الوقت نفسه، فستظهر مشاكل تخصيص التخزين والتحقق من حقوق الملكية بوضوح. الجهة الرسمية حتى الآن لم تُقدّم حلًا مثاليًا في هذا الجانب، لذلك يجب الاستمرار في المتابعة والتقييم. $OPG
لكن حكمي صريح جدًا: المنصات التي تقضي يومها في تَتْبُيع نتائج القياس (benchmarks) على مدى سنتين، غالبًا ستتلقى ضربة قاضية من بنية تحتية لاستضافة أقوى. السبب بسيط: الحوسبة يمكن جمعها بالمال، لكن"الاستضافة القياسية على نطاق واسع" هذا العمل يحتاج إلى القدرة على التعاطي مع المطورين.
اتجاه OpenGradient قد أصاب الطريق: إذا استُكملت الخطوات اللاحقة المتعلقة بالتخزين وحقوق الملكية، سأنتقل فورًا بتركيزنا على النموذج الرئيسي. والاستثمار أيضًا مثل ذلك: لا تصدّقوا عروض الـPPT؛ صدّقوا تجربة النشر على أرض الواقع—ذلك الشعور بـ"عدم التوتر" أثناء تشغيله لأول مرة—هذه هي الحقيقة التي تكشفها دورة الاختبار عبر الزمن. @OpenGradient