Nếu bạn muốn có một cách nhìn “gọn gàng” về nhu cầu tính toán cho AI, hãy gác hype H100 sang một bên—hãy xem A100.
Con chip này ra mắt vào tháng 5 năm 2020. Theo chuẩn của GPU thì nó đã rất “cổ”. Thế nhưng hiện tại nó vẫn đang được thuê ở gần mức công suất tối đa (CoreWeave vừa xác nhận điều này trong cuộc gọi công bố kết quả kinh doanh). Ngày nay, phần lớn nó chạy các tác vụ suy luận.
Dấu hiệu là đây: Giá thuê A100 gần như không thay đổi, ngay cả khi các GPU mới hơn, mạnh hơn rất nhiều liên tục tràn vào thị trường. Không phải vì hoài niệm—đó là nhu cầu mang tính cấu trúc. Suy luận không hề chậm lại. Nó đang tăng tốc.
Khi một con chip 4 năm tuổi vẫn giữ được sức mạnh về giá trong một thị trường bị “ngập” bởi nguồn cung mới, thì bạn không đang nhìn vào một bong bóng. Bạn đang nhìn vào tình trạng thiếu năng lực sẽ còn kéo dài.
Con chip này ra mắt vào tháng 5 năm 2020. Theo chuẩn của GPU thì nó đã rất “cổ”. Thế nhưng hiện tại nó vẫn đang được thuê ở gần mức công suất tối đa (CoreWeave vừa xác nhận điều này trong cuộc gọi công bố kết quả kinh doanh). Ngày nay, phần lớn nó chạy các tác vụ suy luận.
Dấu hiệu là đây: Giá thuê A100 gần như không thay đổi, ngay cả khi các GPU mới hơn, mạnh hơn rất nhiều liên tục tràn vào thị trường. Không phải vì hoài niệm—đó là nhu cầu mang tính cấu trúc. Suy luận không hề chậm lại. Nó đang tăng tốc.
Khi một con chip 4 năm tuổi vẫn giữ được sức mạnh về giá trong một thị trường bị “ngập” bởi nguồn cung mới, thì bạn không đang nhìn vào một bong bóng. Bạn đang nhìn vào tình trạng thiếu năng lực sẽ còn kéo dài.
