O mercado continua precificando GPUs $NVDA mais antigas como se chips mais novos as tornassem automaticamente inúteis.
O mercado de aluguel está contando uma história diferente.
Segundo relatos, os preços de aluguel das RTX 3090, com 4 anos de uso, subiram mais de 25% recentemente, enquanto $NBIS está elevando os preços das H100/H200 e $CRWV continua fechando grandes contratos de A100.
Há um motivo simples:
A inferência de IA nem sempre depende de ter a GPU mais rápida. Depende de ter VRAM suficiente pelo custo certo.
Uma grande parte da IA empresarial roda em modelos relativamente pequenos, nos quais usar poder computacional de nível B200/GB200 é simplesmente desnecessário.
Você precisa da quantidade certa de memória, largura de banda e capacidade de GPU pelo menor custo por token.
É por isso que as A100 e H100 podem continuar tendo muito valor, apesar de serem "antigas".
Wall Street vê depreciação.
Os engenheiros veem utilização.
E, até que a oferta de GPUs acompanhe significativamente a demanda, eu não subestimaria o poder de precificação dessas GPUs "legadas".
O mercado de aluguel está contando uma história diferente.
Segundo relatos, os preços de aluguel das RTX 3090, com 4 anos de uso, subiram mais de 25% recentemente, enquanto $NBIS está elevando os preços das H100/H200 e $CRWV continua fechando grandes contratos de A100.
Há um motivo simples:
A inferência de IA nem sempre depende de ter a GPU mais rápida. Depende de ter VRAM suficiente pelo custo certo.
Uma grande parte da IA empresarial roda em modelos relativamente pequenos, nos quais usar poder computacional de nível B200/GB200 é simplesmente desnecessário.
Você precisa da quantidade certa de memória, largura de banda e capacidade de GPU pelo menor custo por token.
É por isso que as A100 e H100 podem continuar tendo muito valor, apesar de serem "antigas".
Wall Street vê depreciação.
Os engenheiros veem utilização.
E, até que a oferta de GPUs acompanhe significativamente a demanda, eu não subestimaria o poder de precificação dessas GPUs "legadas".
