小米刚整了个AI Cube工程机,迷你主机里塞了三颗自研玄戒芯片,主打本地大模型推理。
参数挺猛的:
120B大模型能跑,还能一键切3B快模型,带宽直接1.22TB/s,最高能上200B级别。
本地AI、边缘计算这波是真在加速了。硬件卷起来之后,算力和模型相关的赛道估计会更热闹。
大家最近有在看AI板块的吗?感觉本地推理这块会不会再带一波情绪?$HK1810 #小米