El mercado sigue valorando las GPU $NVDA más antiguas como si los chips más nuevos las volvieran automáticamente obsoletas.
El mercado de alquiler cuenta otra historia.
Según se informa, los precios de alquiler de las RTX 3090 de hace 4 años han subido más de un 25 % recientemente, mientras que $NBIS está elevando los precios de las H100/H200 y $CRWV sigue consiguiendo grandes contratos para las A100.
Hay una razón sencilla:
La inferencia de IA no siempre consiste en tener la GPU más rápida. Se trata de disponer de suficiente VRAM al precio adecuado.
Una gran parte de la IA empresarial funciona con modelos relativamente pequeños, para los que asignar capacidad de cálculo de nivel B200/GB200 a la carga de trabajo es sencillamente innecesario.
Se necesita la cantidad adecuada de memoria, ancho de banda y capacidad de GPU al menor costo por token.
Por eso las A100 y las H100 pueden seguir teniendo mucho valor a pesar de ser «antiguas».
Wall Street ve depreciación.
Los ingenieros ven utilización.
Y hasta que la oferta de GPU alcance de forma significativa la demanda, no subestimaría el poder de fijación de precios de estas GPU «heredadas».
El mercado de alquiler cuenta otra historia.
Según se informa, los precios de alquiler de las RTX 3090 de hace 4 años han subido más de un 25 % recientemente, mientras que $NBIS está elevando los precios de las H100/H200 y $CRWV sigue consiguiendo grandes contratos para las A100.
Hay una razón sencilla:
La inferencia de IA no siempre consiste en tener la GPU más rápida. Se trata de disponer de suficiente VRAM al precio adecuado.
Una gran parte de la IA empresarial funciona con modelos relativamente pequeños, para los que asignar capacidad de cálculo de nivel B200/GB200 a la carga de trabajo es sencillamente innecesario.
Se necesita la cantidad adecuada de memoria, ancho de banda y capacidad de GPU al menor costo por token.
Por eso las A100 y las H100 pueden seguir teniendo mucho valor a pesar de ser «antiguas».
Wall Street ve depreciación.
Los ingenieros ven utilización.
Y hasta que la oferta de GPU alcance de forma significativa la demanda, no subestimaría el poder de fijación de precios de estas GPU «heredadas».

