أصدرت DeepSeek للتو إطار الاستدلال الداخلي DeepInfer كمصدر مفتوح، وهو الإطار الذي يشغّل نموذج V4.1 Flash الخاص بها. هذه هي منظومة الإنتاج الفعلية التي تستخدمها لتشغيل النماذج على نطاق واسع، وليست مجرد نسخة تجريبية مخففة.
ما الذي يتضمنه:
• نوى حوسبة محسّنة
• استدلال موزّع
• فك ترميز تخميني
• أدوات جدولة لتقليل زمن الاستجابة واستهلاك الطاقة
يدعم حاليًا وحدات معالجة الرسوميات Nvidia SM100 وHuawei Ascend 950. وسيُضاف دعم مزيد من العتاد لاحقًا.
لماذا هذا مهم:
الاستدلال هو الجزء المكلف من تشغيل الذكاء الاصطناعي على نطاق واسع. وتُبقي معظم المختبرات الكبرى تقنياتها هذه مملوكة لها. أما DeepSeek فتتيحها للجميع بموجب ترخيص Apache 2.0.
يشهد مجال البنية التحتية المفتوحة للذكاء الاصطناعي زخمًا متزايدًا. تتيح أدوات مثل Ollama وLM Studio وllama.cpp للمطورين تشغيل النماذج محليًا. والآن أصبح بإمكانهم أيضًا الاستفادة من نظام خلفي بمستوى الإنتاج.
تُظهر بيانات Hugging Face أن النماذج الأصغر تتصدر التنزيلات لأنها تعمل على الأجهزة العادية. وتعوّل DeepSeek على المطورين الذين يريدون مزيدًا من التحكم، وتكاليف أقل، وتجنب الارتهان لواجهة برمجة تطبيقات بعينها.
تنويه: هذا النظام ليس جاهزًا للتشغيل الفوري على أجهزة المستخدمين العادية؛ فقد صُمم للعمل على نطاق واسع. كما أن إدارة الذاكرة المؤقتة وموازنة الأحمال غير متضمنتين بعد.
لكن التحول واضح — فالبنية التحتية المفتوحة تتحول إلى بديل حقيقي لواجهات برمجة التطبيقات لدى OpenAI وAnthropic وGoogle. والتكلفة والتحكم هما ما يدفعان إلى تبنيها.
إذا كنت تطوّر تطبيقات ذكاء اصطناعي وسئمت من إنفاق مبالغ طائلة على الاستدلال السحابي، فهذا يستحق الاطلاع عليه.
ما الذي يتضمنه:
• نوى حوسبة محسّنة
• استدلال موزّع
• فك ترميز تخميني
• أدوات جدولة لتقليل زمن الاستجابة واستهلاك الطاقة
يدعم حاليًا وحدات معالجة الرسوميات Nvidia SM100 وHuawei Ascend 950. وسيُضاف دعم مزيد من العتاد لاحقًا.
لماذا هذا مهم:
الاستدلال هو الجزء المكلف من تشغيل الذكاء الاصطناعي على نطاق واسع. وتُبقي معظم المختبرات الكبرى تقنياتها هذه مملوكة لها. أما DeepSeek فتتيحها للجميع بموجب ترخيص Apache 2.0.
يشهد مجال البنية التحتية المفتوحة للذكاء الاصطناعي زخمًا متزايدًا. تتيح أدوات مثل Ollama وLM Studio وllama.cpp للمطورين تشغيل النماذج محليًا. والآن أصبح بإمكانهم أيضًا الاستفادة من نظام خلفي بمستوى الإنتاج.
تُظهر بيانات Hugging Face أن النماذج الأصغر تتصدر التنزيلات لأنها تعمل على الأجهزة العادية. وتعوّل DeepSeek على المطورين الذين يريدون مزيدًا من التحكم، وتكاليف أقل، وتجنب الارتهان لواجهة برمجة تطبيقات بعينها.
تنويه: هذا النظام ليس جاهزًا للتشغيل الفوري على أجهزة المستخدمين العادية؛ فقد صُمم للعمل على نطاق واسع. كما أن إدارة الذاكرة المؤقتة وموازنة الأحمال غير متضمنتين بعد.
لكن التحول واضح — فالبنية التحتية المفتوحة تتحول إلى بديل حقيقي لواجهات برمجة التطبيقات لدى OpenAI وAnthropic وGoogle. والتكلفة والتحكم هما ما يدفعان إلى تبنيها.
إذا كنت تطوّر تطبيقات ذكاء اصطناعي وسئمت من إنفاق مبالغ طائلة على الاستدلال السحابي، فهذا يستحق الاطلاع عليه.