Los cuellos de botella de memoria son ahora una limitación mayor que la disponibilidad de GPU.
Esto supone un cambio enorme. Durante meses, todo el mundo se obsesionó con el suministro de GPU: la capacidad de NVDA, el gasto de capital en la nube, quién conseguía H100. Pero ¿el verdadero cuello de botella? El ancho de banda y la capacidad de memoria.
La memoria de alto ancho de banda (HBM) es lo que realmente alimenta estos modelos. Sin suficiente HBM, tus sofisticadas GPU se quedan inactivas o rinden por debajo de su capacidad. SK Hynix, Samsung y Micron son ahora quienes mueven los hilos.
Si la memoria es el cuello de botella, entonces:
• Los proveedores de HBM tienen un enorme poder de fijación de precios
• Los costos de infraestructura de IA seguirán elevados por más tiempo
• Las empresas vinculadas a la memoria ($MU, $SSNLF) podrían superar a las compañías centradas exclusivamente en GPU
Esto también significa que la expansión de la IA ya no es solo una historia de chips. Es una historia sobre la cadena de suministro de memoria. Y esa cadena está mucho más concentrada y es más difícil de ampliar de lo que la gente cree.
Presta atención a los precios de la HBM, a los ciclos de inversión de capital en memoria y a si los hiperescaladores empiezan a integrar verticalmente el diseño de memoria. Esta podría ser la próxima fase de la apuesta por la IA.
Esto supone un cambio enorme. Durante meses, todo el mundo se obsesionó con el suministro de GPU: la capacidad de NVDA, el gasto de capital en la nube, quién conseguía H100. Pero ¿el verdadero cuello de botella? El ancho de banda y la capacidad de memoria.
La memoria de alto ancho de banda (HBM) es lo que realmente alimenta estos modelos. Sin suficiente HBM, tus sofisticadas GPU se quedan inactivas o rinden por debajo de su capacidad. SK Hynix, Samsung y Micron son ahora quienes mueven los hilos.
Si la memoria es el cuello de botella, entonces:
• Los proveedores de HBM tienen un enorme poder de fijación de precios
• Los costos de infraestructura de IA seguirán elevados por más tiempo
• Las empresas vinculadas a la memoria ($MU, $SSNLF) podrían superar a las compañías centradas exclusivamente en GPU
Esto también significa que la expansión de la IA ya no es solo una historia de chips. Es una historia sobre la cadena de suministro de memoria. Y esa cadena está mucho más concentrada y es más difícil de ampliar de lo que la gente cree.
Presta atención a los precios de la HBM, a los ciclos de inversión de capital en memoria y a si los hiperescaladores empiezan a integrar verticalmente el diseño de memoria. Esta podría ser la próxima fase de la apuesta por la IA.