Xiaomi только что доработала AI Cube инженерную модель: в мини‑ПК установили три собственных чипа серии Xuanjie, делая ставку на локальный вывод (inference) больших моделей.
Параметры впечатляют:
120B‑модель запускается, и есть возможность одним нажатием переключаться на быструю 3B‑модель. Пропускная способность — сразу 1,22 ТБ/с, а в максимум можно выйти на уровень порядка 200B.
Похоже, что тренд на локальный AI и edge‑вычисления действительно ускоряется. Когда железо начинают “накручивать” сильнее, связанные с вычислительной мощностью и моделями сегменты, вероятно, станут ещё более оживлёнными.
Кто-нибудь в последнее время смотрит на AI‑сектор? Есть ощущение, что локальный inference снова может подогреть волну эмоций?$HK1810 #小米
Параметры впечатляют:
120B‑модель запускается, и есть возможность одним нажатием переключаться на быструю 3B‑модель. Пропускная способность — сразу 1,22 ТБ/с, а в максимум можно выйти на уровень порядка 200B.
Похоже, что тренд на локальный AI и edge‑вычисления действительно ускоряется. Когда железо начинают “накручивать” сильнее, связанные с вычислительной мощностью и моделями сегменты, вероятно, станут ещё более оживлёнными.
Кто-нибудь в последнее время смотрит на AI‑сектор? Есть ощущение, что локальный inference снова может подогреть волну эмоций?$HK1810 #小米
