SK Hynix sagte, der KI-Wettbewerb verlagere sich von der Leistung einzelner Chips hin zur Gestaltung und zum Betrieb gesamter Infrastrukturarchitekturen. Laut ChainCatcher sagte das Unternehmen, dass die Wettbewerbsfähigkeit von KI-Rechenzentren nun davon abhänge, ob Rechnen, Speicher, Speicherplatz, Netzwerk sowie Stromversorgung und Kühlung nahtlos integriert werden können.

Das Unternehmen erklärte, dass wachsende KI-Modellgrößen die Anforderungen an Rechenleistung und Datenbewegung stark ansteigen lassen. Das Training erfordere den wiederholten Zugriff auf riesige Datensätze, während die Inferenz von der schnellen Abrufbarkeit der vom Nutzer angeforderten Informationen abhänge; beides stelle höhere Anforderungen an die Systemarchitektur von Rechenzentren. SK Hynix sagte, der Speicher bilde ein geschichtetes System, wobei HBM und Server-DRAM jeweils unterschiedliche Aufgaben in Bezug auf Bandbreite und Kapazität übernehmen. Außerdem habe sich das Netzwerk zu einem entscheidenden Faktor für die Skalierbarkeit entwickelt, da großangelegtes Training und Inferenz zunehmend auf paralleler Verarbeitung über mehrere Server hinweg angewiesen seien. Das treibe die Systementwicklung von Einzelservern hin zu Erweiterungen auf Rack- und Cluster-Ebene voran.

Omdia prognostiziert, dass der Markt für KI-Rechenzentrumschips von 123 Milliarden US-Dollar im Jahr 2024 auf 207 Milliarden US-Dollar im Jahr 2025 steigen wird und bis 2030 286 Milliarden US-Dollar erreichen soll. Auch SK Hynix führte Microsofts Fairwater-Rechenzentrum in Wisconsin an, das Berichten zufolge etwa fünf Fußballfelder lang ist, als Beleg dafür, dass die Infrastruktur in größerem Maßstab ausgebaut wird.