DeepSeek 的 Agent（DSH）Bewertungsdaten bergen ein Signal für eine Hardware-Roadmap.
Einige wichtige Kennzahlen:
- Der Token-Verbrauch ist enorm, der KV-Cache-Treffergrad steht im Mittelpunkt der Diskussion
- Bei gleicher Aufgabe ist DSH doppelt so langsam wie GPT/Claude
Dieses „2x“, viele sehen es nur als Leistungsunterschied – aber es ist ein wichtiges Indiz für die Hardware-Roadmap.
Was ist die Engstelle im Zeitalter der Agenten?
Nicht die Rechenleistung, sondern die Speicherbandbreite.
Agenten arbeiten = extrem lange Kontexte = massiver KV-Cache, der ständig gelesen und wieder beschrieben wird.
Je länger der Kontext, desto größer der KV-Cache, desto langsamer die Lesezugriffe –
selbst wenn dein Rechenchip noch so schnell ist: Wenn die Daten nicht aus dem Speicher herübergebracht werden können, ist alles nur vergebliches Warten.
Dass DSH doppelt so lange braucht, ist im Kern eine „Memory-Wall“-Entzauberung: Es nutzt „langsameres Speichern“ gegen „geringere Kosten“.
Das erklärt auch, warum Chen Liwu (Intel) an der CPU+DRAM-Stacked-Packaging-Lösung festhält:
Nvidias Lösung ist GPU + HBM-Stacked-Packaging (CoWoS-Technologie),
bei der Recheneinheiten direkt an den Speicher herangerückt werden – die Transportstrecke der Daten wird von „Zentimetermaß“ auf „Mikrometermaß“ reduziert – die Bandbreite explodiert.
Chen Liwu sieht dasselbe Problem, nur auf der CPU-Seite:
Nach der Verbreitung von Agenten übernimmt die CPU einen großen Teil von Inferenz und Scheduling – und muss genauso „am Speicher kleben“.
Die Verbreitung von Agenten beschleunigt das Anbrechen der „CPU/GPU 1:1“-Ära:
- Heute: Rechenzentrums-GPUs sind die Hauptdarsteller, die CPU ist der Nebenstar
- Zeitalter der Agenten: Neben jedem GPU muss eine starke CPU sitzen, für Scheduling, Agent-Loops und KV-Management
- Dann muss die CPU auch so „wie die GPU“ sein: CPU + HBM-Stacked-Packaging
Was bedeutet das (Investment-Perspektive):
1. Packaging-Technologie = die nächste Flaschenhals-Stufe
CoWoS, 2.5D/3D-Stacking, hybrides Bonden – diese Packaging-Verfahren sind der neue Brennpunkt im Wettrüsten der KI-Hardware
2. Hersteller von Speichern setzen neu an
HBM verkauft sich bereits wie verrückt – wenn auch die CPU HBM braucht, wird der Spielraum der DRAM-Hersteller noch größer
3. Intels „fehlplatzierte Wette“ könnte sich auszahlen
Der Markt schaut auf Nvidia, doch Chen Liwu setzt auf das CPU+DRAM-Stacking und wettet auf die „zweite Kurve“ im Zeitalter der Agenten
Letzter Satz:
Die Token-Rechnung von Agenten definiert gerade neu, wie Hardware aussehen muss –
wenn „Lesegeschwindigkeit“ wertvoller ist als „Rechengeschwindigkeit“, dann gewinnt die Chip-Architektur, die direkt am Speicher anliegt.
Das obere Kapitel des Wettrüstens bei Rechenleistung ist die GPU,
das untere Kapitel ist das Packaging.
#DeepSeek #DSH #封装 #HBM
Einige wichtige Kennzahlen:
- Der Token-Verbrauch ist enorm, der KV-Cache-Treffergrad steht im Mittelpunkt der Diskussion
- Bei gleicher Aufgabe ist DSH doppelt so langsam wie GPT/Claude
Dieses „2x“, viele sehen es nur als Leistungsunterschied – aber es ist ein wichtiges Indiz für die Hardware-Roadmap.
Was ist die Engstelle im Zeitalter der Agenten?
Nicht die Rechenleistung, sondern die Speicherbandbreite.
Agenten arbeiten = extrem lange Kontexte = massiver KV-Cache, der ständig gelesen und wieder beschrieben wird.
Je länger der Kontext, desto größer der KV-Cache, desto langsamer die Lesezugriffe –
selbst wenn dein Rechenchip noch so schnell ist: Wenn die Daten nicht aus dem Speicher herübergebracht werden können, ist alles nur vergebliches Warten.
Dass DSH doppelt so lange braucht, ist im Kern eine „Memory-Wall“-Entzauberung: Es nutzt „langsameres Speichern“ gegen „geringere Kosten“.
Das erklärt auch, warum Chen Liwu (Intel) an der CPU+DRAM-Stacked-Packaging-Lösung festhält:
Nvidias Lösung ist GPU + HBM-Stacked-Packaging (CoWoS-Technologie),
bei der Recheneinheiten direkt an den Speicher herangerückt werden – die Transportstrecke der Daten wird von „Zentimetermaß“ auf „Mikrometermaß“ reduziert – die Bandbreite explodiert.
Chen Liwu sieht dasselbe Problem, nur auf der CPU-Seite:
Nach der Verbreitung von Agenten übernimmt die CPU einen großen Teil von Inferenz und Scheduling – und muss genauso „am Speicher kleben“.
Die Verbreitung von Agenten beschleunigt das Anbrechen der „CPU/GPU 1:1“-Ära:
- Heute: Rechenzentrums-GPUs sind die Hauptdarsteller, die CPU ist der Nebenstar
- Zeitalter der Agenten: Neben jedem GPU muss eine starke CPU sitzen, für Scheduling, Agent-Loops und KV-Management
- Dann muss die CPU auch so „wie die GPU“ sein: CPU + HBM-Stacked-Packaging
Was bedeutet das (Investment-Perspektive):
1. Packaging-Technologie = die nächste Flaschenhals-Stufe
CoWoS, 2.5D/3D-Stacking, hybrides Bonden – diese Packaging-Verfahren sind der neue Brennpunkt im Wettrüsten der KI-Hardware
2. Hersteller von Speichern setzen neu an
HBM verkauft sich bereits wie verrückt – wenn auch die CPU HBM braucht, wird der Spielraum der DRAM-Hersteller noch größer
3. Intels „fehlplatzierte Wette“ könnte sich auszahlen
Der Markt schaut auf Nvidia, doch Chen Liwu setzt auf das CPU+DRAM-Stacking und wettet auf die „zweite Kurve“ im Zeitalter der Agenten
Letzter Satz:
Die Token-Rechnung von Agenten definiert gerade neu, wie Hardware aussehen muss –
wenn „Lesegeschwindigkeit“ wertvoller ist als „Rechengeschwindigkeit“, dann gewinnt die Chip-Architektur, die direkt am Speicher anliegt.
Das obere Kapitel des Wettrüstens bei Rechenleistung ist die GPU,
das untere Kapitel ist das Packaging.
#DeepSeek #DSH #封装 #HBM