DeepSeek официально представила новый движок инференса больших моделей. Благодаря динамической пакетной обработке в реальном времени, планированию с учетом памяти и спекулятивному выполнению операций внимания он примерно втрое повышает эффективную производительность существующих GPU NVIDIA и AMD. По мере резкого роста пропускной способности инференса на одной карте центр конкуренции в сфере ИИ-инфраструктуры смещается от «наращивания числа GPU» к «максимальному повышению эффективности за счет программного обеспечения».$BTC #AI #ИнфраструктураВычислительныхМощностей