Der Markt bewertet ältere GPUs wie die $NVDA weiterhin so, als würden neuere Chips sie automatisch wertlos machen.
Der Mietmarkt erzählt eine andere Geschichte.
Berichten zufolge sind die Mietpreise für vier Jahre alte RTX 3090 kürzlich um mehr als 25 % gestiegen, während $NBIS die Preise für H100/H200 nach oben treibt und $CRWV weiterhin große A100-Verträge abschließt.
Dafür gibt es einen einfachen Grund:
Bei der KI-Inferenz geht es nicht immer darum, die schnellste GPU zu haben. Es geht darum, genügend VRAM zu den richtigen Kosten zu bekommen.
Ein großer Teil der Unternehmens-KI läuft mit relativ kleinen Modellen. Dafür Rechenleistung auf B200-/GB200-Niveau einzusetzen, ist schlicht unnötig.
Man braucht die richtige Menge an Speicher, Bandbreite und GPU-Kapazität zu möglichst niedrigen Kosten pro Token.
Deshalb können A100 und H100 trotz ihres „Alters“ weiterhin sehr wertvoll sein.
Die Wall Street sieht Wertminderung.
Die Ingenieure sehen Auslastung.
Und solange das GPU-Angebot nicht deutlich mit der Nachfrage Schritt hält, würde ich die Preissetzungsmacht dieser „älteren“ GPUs nicht unterschätzen.
Der Mietmarkt erzählt eine andere Geschichte.
Berichten zufolge sind die Mietpreise für vier Jahre alte RTX 3090 kürzlich um mehr als 25 % gestiegen, während $NBIS die Preise für H100/H200 nach oben treibt und $CRWV weiterhin große A100-Verträge abschließt.
Dafür gibt es einen einfachen Grund:
Bei der KI-Inferenz geht es nicht immer darum, die schnellste GPU zu haben. Es geht darum, genügend VRAM zu den richtigen Kosten zu bekommen.
Ein großer Teil der Unternehmens-KI läuft mit relativ kleinen Modellen. Dafür Rechenleistung auf B200-/GB200-Niveau einzusetzen, ist schlicht unnötig.
Man braucht die richtige Menge an Speicher, Bandbreite und GPU-Kapazität zu möglichst niedrigen Kosten pro Token.
Deshalb können A100 und H100 trotz ihres „Alters“ weiterhin sehr wertvoll sein.
Die Wall Street sieht Wertminderung.
Die Ingenieure sehen Auslastung.
Und solange das GPU-Angebot nicht deutlich mit der Nachfrage Schritt hält, würde ich die Preissetzungsmacht dieser „älteren“ GPUs nicht unterschätzen.
