mimo

Xiaomi MiMo випустила UltraSpeed режим для інференсу: один вузол перевищує 1000 токенів/с

Команда Xiaomi MiMo разом з групою AI компіляційної оптимізації TileRT оголосила про запуск MiMo-V2.5-Pro-UltraSpeed режиму, в якому на одному стандартному вузлі з 8 GPU картами вдалося досягти швидкості генерації понад 1000 токенів/с для моделі MoE з трильйоном параметрів, з піком приблизно 1200 токенів/с. Це означає, що вперше вдалося перевищити швидкість генерації в 1000 токенів для T-моделі без використання спеціалізованих чіпів, спираючись лише на стандартне загальне обладнання.

Чому це важливо: цей прорив означає, що витрати на інференс великих моделей суттєво знизяться, моделі MoE на трильйон параметрів можуть реалізувати реальний інференс на звичайних GPU серверах, прискорюючи впровадження AI застосунків.

#小米 #MiMo #AI #推理 #великі моделі

🚀 ЧИ ЗАВИШЕНА ШВИДКІСТЬ? XIAOMI РОЗРИВАЄ СВІТОВИЙ РЕКОРД ШТУЧНОЇ РОЗУМНОСТІ З 1.000 ТОКЕНІВ ЗА СЕКУНДУ

⚡ Швидкість у гонці штучної розумності зростає! Xiaomi та TileRT представили свій двигун MiMo-V2.5-Pro-UltraSpeed, руйнуючи відомі межі швидкості в індустрії. 🤯
Він зміг перевищити 1.000 токенів за секунду на гігантській моделі з 1 трильйоном параметрів, використовуючи лише один стандартний вузол з 8 GPU. 🖥️🔥
🚀 Екстремальна продуктивність: пропонує швидкість генерації приблизно в 10 разів вищу за стандартні комерційні версії. 🏎️
📅 Тестування API: обмежене тестування відбудеться з 9 по 23 червня для обраних розробників. ⏳
💰 Преміум вартість: ця супер швидкість буде коштувати втричі дорожче за стандартні тарифи MiMo. 💸
Цей прорив усуває вузькі місця обробки, дозволяючи масивним штучним інтелектам відповідати миттєво. 🌐
👇 Швидкість — це нове технологічне поле битви. Чи варто платити втричі більше за продуктивність, яка в 10 разів швидша? 🤔
🔥 Перевірте вплив оголошень про ШІ на ринки у графіку нижче.
#Xiaomi #MiMo #TechNews #Trading #BinanceSquare
$BTC $ETH