【لماذا ارتفعت قيمة مارل بنصف قيمة الإيثريوم خلال يومين؟ اقرأ هذا المقال لفهم ما قاله 老黄: يتم تعريف العقبة التالية لمراكز بيانات الذكاء الاصطناعي على أنها الاتصال / الترابط، أي الترابط، الاتصال الضوئي، التبادل، و XPU المخصص】
1. الاتصال / الترابط = الترابط (النقطة الأساسية للعقبة)
تدريب نماذج الذكاء الاصطناعي لا يتم بواسطة بطاقة رسومات واحدة، بل يتطلب مئات أو آلاف بطاقات GPU المرتبطة معًا لتشكيل مجموعة.
تعتمد قوة الحوسبة على GPU/XPU، بينما تعتمد البيانات على خطوط الاتصال لنقلها ذهابًا وإيابًا.
في السابق كانت العقبة: نقص في GPU، أداء الرقائق غير كافٍ.
الآن أصبحت العقبة: بطء نقل البيانات بين GPU، وازدحام السرعة → أي العقبة في الاتصال.
2. الاتصال الضوئي (وحدة الضوء)
كانت الطريقة التقليدية لنقل إشارات البيانات باستخدام الأسلاك الكهربائية، مما يحد من السرعة وارتفاع الحرارة؛
الاتصال الضوئي = استخدام الضوء لنقل البيانات عبر الألياف الضوئية، وهو الحل الوحيد للاتصال عالي السرعة في مراكز الحوسبة الفائقة / الذكاء الاصطناعي:
تتصل الخوادم بالمبدلات عبر وحدات الضوء، وتعتمد الشبكات الكبيرة لمجموعات الذكاء الاصطناعي بالكامل على ذلك.
كلما زادت قوة الحوسبة، زادت الحاجة لوحدات الضوء بشكل كبير، وتطورت المواصفات بسرعة، مما يجعلها عقبة ضرورية.
3. التبادل (المبدلات)
تشبه جهاز التوجيه المنزلي، لكن مراكز البيانات تحتوي على مبدلات ضخمة بسرعة عشرات الميغابت / مئات الميغابت:
تتولى المبدلات تجميع وتحويل جميع بيانات GPU، حيث تتطلب كميات هائلة من بيانات الذكاء الاصطناعي عرض نطاق ترددي وزمن استجابة مرتفع بشكل متفجر.
إذا كانت المبدلات لا تواكب، فلن تتمكن من الاستفادة من قوة المعالجة حتى مع عدد كبير من GPU.
4. XPU المخصص
GPU: بطاقات رسومات NVIDIA العامة
XPU: أنواع مختلفة من شرائح المعالجة المخصصة (DPU/TPU/ASIC وغيرها)
لحل ازدحام الاتصال، لم يعد المصنعون يكتفون بزيادة عدد GPU العامة:
تم تصميم DPU (معالج البيانات): يتولى مهمة الاتصال الشبكي، ويحرر GPU من نقل البيانات للتركيز على حساب الذكاء الاصطناعي؛
تم تطوير شرائح TPU/ASIC المخصصة داخليًا، حيث تتضمن الشرائح واجهات اتصال عالية السرعة مباشرة؛
يتم تحسين كفاءة الاتصال من خلال الشرائح المخصصة على مستوى الأجهزة.
1. الاتصال / الترابط = الترابط (النقطة الأساسية للعقبة)
تدريب نماذج الذكاء الاصطناعي لا يتم بواسطة بطاقة رسومات واحدة، بل يتطلب مئات أو آلاف بطاقات GPU المرتبطة معًا لتشكيل مجموعة.
تعتمد قوة الحوسبة على GPU/XPU، بينما تعتمد البيانات على خطوط الاتصال لنقلها ذهابًا وإيابًا.
في السابق كانت العقبة: نقص في GPU، أداء الرقائق غير كافٍ.
الآن أصبحت العقبة: بطء نقل البيانات بين GPU، وازدحام السرعة → أي العقبة في الاتصال.
2. الاتصال الضوئي (وحدة الضوء)
كانت الطريقة التقليدية لنقل إشارات البيانات باستخدام الأسلاك الكهربائية، مما يحد من السرعة وارتفاع الحرارة؛
الاتصال الضوئي = استخدام الضوء لنقل البيانات عبر الألياف الضوئية، وهو الحل الوحيد للاتصال عالي السرعة في مراكز الحوسبة الفائقة / الذكاء الاصطناعي:
تتصل الخوادم بالمبدلات عبر وحدات الضوء، وتعتمد الشبكات الكبيرة لمجموعات الذكاء الاصطناعي بالكامل على ذلك.
كلما زادت قوة الحوسبة، زادت الحاجة لوحدات الضوء بشكل كبير، وتطورت المواصفات بسرعة، مما يجعلها عقبة ضرورية.
3. التبادل (المبدلات)
تشبه جهاز التوجيه المنزلي، لكن مراكز البيانات تحتوي على مبدلات ضخمة بسرعة عشرات الميغابت / مئات الميغابت:
تتولى المبدلات تجميع وتحويل جميع بيانات GPU، حيث تتطلب كميات هائلة من بيانات الذكاء الاصطناعي عرض نطاق ترددي وزمن استجابة مرتفع بشكل متفجر.
إذا كانت المبدلات لا تواكب، فلن تتمكن من الاستفادة من قوة المعالجة حتى مع عدد كبير من GPU.
4. XPU المخصص
GPU: بطاقات رسومات NVIDIA العامة
XPU: أنواع مختلفة من شرائح المعالجة المخصصة (DPU/TPU/ASIC وغيرها)
لحل ازدحام الاتصال، لم يعد المصنعون يكتفون بزيادة عدد GPU العامة:
تم تصميم DPU (معالج البيانات): يتولى مهمة الاتصال الشبكي، ويحرر GPU من نقل البيانات للتركيز على حساب الذكاء الاصطناعي؛
تم تطوير شرائح TPU/ASIC المخصصة داخليًا، حيث تتضمن الشرائح واجهات اتصال عالية السرعة مباشرة؛
يتم تحسين كفاءة الاتصال من خلال الشرائح المخصصة على مستوى الأجهزة.