Thị trường vẫn định giá các GPU đời cũ như $NVDA thể như những con chip mới hơn tự động khiến chúng trở nên vô giá trị.

Thị trường cho thuê lại cho thấy một câu chuyện khác.

Theo ghi nhận, giá thuê RTX 3090 đã qua sử dụng 4 năm gần đây tăng hơn 25%, trong khi $NBIS đang đẩy giá H100/H200 lên cao hơn và $CRWV tiếp tục giành được các hợp đồng A100 lớn.

Có một lý do đơn giản:

Suy luận AI không phải lúc nào cũng cần GPU nhanh nhất. Điều quan trọng là có đủ VRAM với mức chi phí phù hợp.

Phần lớn hoạt động AI trong doanh nghiệp chạy trên các mô hình tương đối nhỏ, nên dùng năng lực tính toán cấp B200/GB200 cho những tác vụ này là không cần thiết.

Bạn cần lượng bộ nhớ, băng thông và năng lực GPU phù hợp với chi phí trên mỗi token thấp nhất.

Đó là lý do A100 và H100 vẫn có thể giữ giá trị cao dù đã "lỗi thời".

Phố Wall nhìn thấy sự mất giá.

Các kỹ sư nhìn thấy mức độ khai thác.

Và cho đến khi nguồn cung GPU bắt kịp đáng kể với nhu cầu, tôi sẽ không đánh giá thấp sức mạnh định giá của những GPU "đời cũ" này.