MEITUAN STELLT CHINAS GRÖSSTES KI-MODELL VOR, DAS AUF LOKALEN CHIPS TRAINIERT WURDE
- 1,6B Parameter · MoE mit ~48B aktive · 1M Kontext
- Sowohl der vollständige Trainingslauf als auch die groß angelegte Bereitstellung basieren vollständig auf KI-ASIC-Superpods.
- LongCat-2.0 wurde auf über 50K KI-ASICs vortrainiert (keine GPUs).
- Dabei wurde die Huawei Collective Communication Library (HCCL) eingesetzt, um die Trainingsstabilität zu verbessern. HCCL ist ein chip-zu-chip-Kommunikationssystem ähnlich der Nvidia Collective Communication Library (NCCL).
- Wettbewerber wie DeepSeek-V4-pro setzten für die Inferenz ausschließlich auf inländische Chips; Meituan nutzte inländische Hardware sowohl für die Inferenz als auch für die äußerst anspruchsvolle Vortrainingsphase.
- Da die inländischen Beschleuniger weniger Arbeitsspeicher pro Gerät besitzen als ein Nvidia H800 (80 GB), begegnet Meituan dieser Herausforderung in zwei Dimensionen: Parallelisierungsstrategie und Speichermanagement.
#Meituan #AI #SupremeCourtBlocksTrumpFromRemovingFedCook