小米がAI Cubeの開発機を新たに整えた。ミニPC筐体の中に自社開発の「玄戒」チップを3基搭載し、ローカルでの大規模言語モデル推論を主力にしている。
スペックもなかなか強い：
120Bの大規模モデルが動くだけでなく、ワンタッチで3Bの高速モデルに切り替えられる。帯域幅は直接1.22TB/sで、最高は200B級まで対応可能だ。
ローカルAIやエッジコンピューティングのこの流れは、まさに加速している。ハードが本気で巻き込んできたことで、演算力とモデルに関連する分野のレースは、さらににぎやかになりそうだ。
みんな最近AI関連のセクターを見ている？ローカル推論のところでも、もう一波感情（ムード）が来るんじゃないかな。$HK1810 #小米