Xiaomi vient de mettre la main sur un AI Cube en tant que station de développement : dans un mini-PC, il intègre trois puces internes “Xuanjie” conçues en interne, avec une offre centrée sur l’inférence des grands modèles en local.
Les caractéristiques sont plutôt impressionnantes :
le modèle 120B peut tourner, et il permet aussi de passer en un clic à des modèles rapides de 3B ; la bande passante atteint directement 1,22 To/s, et peut aller jusqu’à des niveaux de 200B.
Cette accélération du local AI et de l’informatique de bord est bien réelle. Une fois le matériel encore plus “musclé”, la course qui tourne autour de la puissance de calcul et des modèles devrait devenir encore plus animée.
Vous regardez l’actualité du secteur IA en ce moment ? Vous pensez que l’inférence locale va déclencher une nouvelle vague d’enthousiasme ? $HK1810 #小米
Les caractéristiques sont plutôt impressionnantes :
le modèle 120B peut tourner, et il permet aussi de passer en un clic à des modèles rapides de 3B ; la bande passante atteint directement 1,22 To/s, et peut aller jusqu’à des niveaux de 200B.
Cette accélération du local AI et de l’informatique de bord est bien réelle. Une fois le matériel encore plus “musclé”, la course qui tourne autour de la puissance de calcul et des modèles devrait devenir encore plus animée.
Vous regardez l’actualité du secteur IA en ce moment ? Vous pensez que l’inférence locale va déclencher une nouvelle vague d’enthousiasme ? $HK1810 #小米
