CXL wird HBM in KI-Racks nicht ersetzen — und das kommt direkt von OpenAI und Intel, nicht von Speicheranbietern, die ihr Terrain schützen wollen.
Auf dem AI Infrastructure Summit in Santa Clara sagte Daniel Morris (OpenAI-Accelerator-Designer), er könne keinen Live-Use-Case für CXL finden, wenn die Modelle tatsächlich laufen. Im besten Fall lagert es kalte Daten aus, auf die riesige Modelle selten zugreifen. Er habe keinen Fall gesehen, der darauf ausgelegt ist, das Modell selbst zu bedienen.
Vidya Thiagarajan (Intel-SoC-Architektur) äußerte eine ähnliche Sichtweise. Speicher-Pooling über CXL ist in Ordnung als Ergänzung zu Storage — aber nicht als Ersatz für HBM. Daten, die über CXL in die GPU wandern, sind einfach nicht so schnell wie HBM. Bessere Verbindungen schließen diese Bandbreitenlücke nicht.
Die Story aus dem Street-Narrativ war, dass CXL die HBM-Rechnung senken würde, sobald das Protokoll ausgereift ist. Die Menschen, die die Chips tatsächlich bauen und betreiben, sagten jedoch genau das Gegenteil.
Samsung und SK Hynix beherrschen diesen Stack weiterhin. Das Panel gab dem Markt keinen zweiten In-Package-Pfad.
$INTC $SKHY
Wenn OpenAI keinen CXL-Job für ein Live-Modell finden kann: Ist CXL ein Storage-Tier für 2028 — oder nur eine Spezifikation, die nie direkt neben der GPU landet?
Auf dem AI Infrastructure Summit in Santa Clara sagte Daniel Morris (OpenAI-Accelerator-Designer), er könne keinen Live-Use-Case für CXL finden, wenn die Modelle tatsächlich laufen. Im besten Fall lagert es kalte Daten aus, auf die riesige Modelle selten zugreifen. Er habe keinen Fall gesehen, der darauf ausgelegt ist, das Modell selbst zu bedienen.
Vidya Thiagarajan (Intel-SoC-Architektur) äußerte eine ähnliche Sichtweise. Speicher-Pooling über CXL ist in Ordnung als Ergänzung zu Storage — aber nicht als Ersatz für HBM. Daten, die über CXL in die GPU wandern, sind einfach nicht so schnell wie HBM. Bessere Verbindungen schließen diese Bandbreitenlücke nicht.
Die Story aus dem Street-Narrativ war, dass CXL die HBM-Rechnung senken würde, sobald das Protokoll ausgereift ist. Die Menschen, die die Chips tatsächlich bauen und betreiben, sagten jedoch genau das Gegenteil.
Samsung und SK Hynix beherrschen diesen Stack weiterhin. Das Panel gab dem Markt keinen zweiten In-Package-Pfad.
$INTC $SKHY
Wenn OpenAI keinen CXL-Job für ein Live-Modell finden kann: Ist CXL ein Storage-Tier für 2028 — oder nur eine Spezifikation, die nie direkt neben der GPU landet?