mimo

Xiaomi MiMo meluncurkan mode inferensi UltraSpeed: satu node menembus seribu tokens/s

Tim Xiaomi MiMo dan grup sistem optimasi kompilasi AI TileRT mengumumkan peluncuran MiMo-V2.5-Pro-UltraSpeed mode inferensi, di mana pada satu node GPU standar 8 kartu berhasil mencapai kecepatan generasi ekstrem lebih dari 1000 tokens/s untuk model MoE dengan 1 triliun parameter, dengan puncak mencapai sekitar 1200 tokens/s. Ini menandakan bahwa tanpa chip khusus, hanya dengan perangkat keras umum standar, untuk pertama kalinya berhasil menembus kecepatan generasi seribu token untuk model 1T.

Mengapa ini penting: Terobosan ini berarti bahwa biaya inferensi model besar akan secara signifikan berkurang, model MoE pada tingkat triliunan parameter dapat melakukan inferensi waktu nyata di server GPU biasa, mempercepat penerapan aplikasi AI.

#小米 #MiMo #AI #推理 #model besar

🚀 KECEPATAN YANG GILA? XIAOMI MEMECAH REKOR DUNIA IA DENGAN 1.000 TOKEN PER DETIK

⚡ Perlombaan Kecerdasan Buatan semakin cepat! Xiaomi dan TileRT meluncurkan mesin MiMo-V2.5-Pro-UltraSpeed mereka, menghancurkan batas kecepatan yang dikenal dalam industri. 🤯
Mampu melampaui 1.000 token per detik dalam model raksasa dengan 1 triliun parameter, menggunakan hanya satu node standar dengan 8 GPU. 🖥️🔥
🚀 Performa Ekstrem: Menawarkan kecepatan generasi sekitar 10 kali lebih cepat dibandingkan versi komersial standar. 🏎️
📅 Uji Coba API: Pengujian terbatas akan dilakukan dari 9 hingga 23 Juni untuk pengembang terpilih. ⏳
💰 Biaya Premium: Kecepatan super ini akan dikenakan biaya setara dengan tiga kali tarif standar MiMo. 💸
Kemajuan ini menghilangkan bottleneck pemrosesan, memungkinkan kecerdasan buatan besar merespons secara instan. 🌐
👇 Kecepatan adalah medan perang teknologi yang baru. Apakah layak membayar tiga kali lipat untuk performa 10 kali lebih cepat? 🤔
🔥 Cek dampak pengumuman IA di pasar dalam grafik di bawah ini.
#Xiaomi #MiMo #TechNews #Trading #BinanceSquare
$BTC $ETH