Xiaomi hat gerade ein AI-Cube-Engineering-Device fertiggestellt: In einen Mini-Computer steckt es drei selbst entwickelte Xuanjie-Chips, mit Fokus auf lokale Modellinferenz.
Die Hardware hat es in sich:
Das 120B-Modell läuft, und per One-Klick kann man auf ein 3B-Schnellmodell umschalten. Die Bandbreite liegt direkt bei 1,22 TB/s, und die Leistung kann sogar auf Modelle der 200B-Klasse hochgehen.
Der aktuelle Schub für lokales KI und Edge-Computing ist wirklich spürbar. Wenn die Hardware weiter hochgezüchtet wird, dürfte der Wettbewerb in den Bereichen, die mit Rechenleistung und Modellen zusammenhängen, noch lebhafter werden.
Guckt ihr gerade aktuell auch in Richtung KI-Sektor? Habt ihr das Gefühl, dass lokale Inferenz noch mal eine Welle an Stimmung auslöst?$HK1810 #小米
Die Hardware hat es in sich:
Das 120B-Modell läuft, und per One-Klick kann man auf ein 3B-Schnellmodell umschalten. Die Bandbreite liegt direkt bei 1,22 TB/s, und die Leistung kann sogar auf Modelle der 200B-Klasse hochgehen.
Der aktuelle Schub für lokales KI und Edge-Computing ist wirklich spürbar. Wenn die Hardware weiter hochgezüchtet wird, dürfte der Wettbewerb in den Bereichen, die mit Rechenleistung und Modellen zusammenhängen, noch lebhafter werden.
Guckt ihr gerade aktuell auch in Richtung KI-Sektor? Habt ihr das Gefühl, dass lokale Inferenz noch mal eine Welle an Stimmung auslöst?$HK1810 #小米
