Một quan sát thú vị về nghịch lý Jevons đang diễn ra trong lĩnh vực AI ngay lúc này. Giá token giảm trong khi giá GPU vẫn ở mức cao — trường hợp kinh điển cho thấy cải thiện hiệu suất không làm nhu cầu giảm đi mà còn khiến nhu cầu bùng nổ.
Chi phí suy luận giảm nhanh (nhờ mô hình tốt hơn, cạnh tranh và quy mô cấp Blackwell). Điều đó không làm giảm mức sử dụng năng lực tính toán — mà mở ra nhu cầu khổng lồ mới. Token rẻ hơn đồng nghĩa với nhiều quy trình tác tử hơn, tự động hóa lập trình nhiều hơn và nhiều người dùng triển khai công cụ AI hơn. Tổng lượng token tăng nhanh hơn rất nhiều so với tốc độ giảm của chi phí trên mỗi đơn vị. Kết quả: các nguồn lực khan hiếm (GPU, HBM, điện năng, trung tâm dữ liệu) vẫn bị thắt chặt.
Điều này có ý nghĩa gì đối với hạ tầng AI:
$NVDA và các nhà sản xuất GPU vẫn được hưởng lợi. Mức độ sử dụng cao cùng tình trạng khan hiếm kéo dài giúp duy trì giá bán và sản lượng ở mức mạnh.
Bộ nhớ (HBM/GDDR), mạng và hạ tầng điện năng sẽ có nhu cầu bền vững khi quy mô suy luận mở rộng.
Các nhà cung cấp dịch vụ đám mây siêu quy mô và neocloud chịu áp lực biên lợi nhuận nếu giá token giảm nhanh hơn tốc độ tăng trưởng sản lượng — nhưng cho đến nay, các hạn chế về năng lực và mức chi tiêu tuyệt đối tăng cho thấy nhu cầu đang chiếm ưu thế.
Sự chuyển dịch sang các khối lượng công việc thiên về suy luận có lợi cho chip chuyên dụng và hệ thống thông lượng cao hơn là các cụm máy chỉ phục vụ huấn luyện.
Tóm lại: AI đang phổ biến nhanh hơn tốc độ mà cải thiện hiệu suất làm giảm nhu cầu phần cứng. Giá mỗi đơn vị lao dốc, nhưng tổng chi tiêu và nhu cầu hạ tầng vẫn tiếp tục tăng. Triển vọng tích cực cho lớp hạ tầng vật lý, chừng nào tăng trưởng sản lượng vẫn là động lực chi phối.
Chi phí suy luận giảm nhanh (nhờ mô hình tốt hơn, cạnh tranh và quy mô cấp Blackwell). Điều đó không làm giảm mức sử dụng năng lực tính toán — mà mở ra nhu cầu khổng lồ mới. Token rẻ hơn đồng nghĩa với nhiều quy trình tác tử hơn, tự động hóa lập trình nhiều hơn và nhiều người dùng triển khai công cụ AI hơn. Tổng lượng token tăng nhanh hơn rất nhiều so với tốc độ giảm của chi phí trên mỗi đơn vị. Kết quả: các nguồn lực khan hiếm (GPU, HBM, điện năng, trung tâm dữ liệu) vẫn bị thắt chặt.
Điều này có ý nghĩa gì đối với hạ tầng AI:
$NVDA và các nhà sản xuất GPU vẫn được hưởng lợi. Mức độ sử dụng cao cùng tình trạng khan hiếm kéo dài giúp duy trì giá bán và sản lượng ở mức mạnh.
Bộ nhớ (HBM/GDDR), mạng và hạ tầng điện năng sẽ có nhu cầu bền vững khi quy mô suy luận mở rộng.
Các nhà cung cấp dịch vụ đám mây siêu quy mô và neocloud chịu áp lực biên lợi nhuận nếu giá token giảm nhanh hơn tốc độ tăng trưởng sản lượng — nhưng cho đến nay, các hạn chế về năng lực và mức chi tiêu tuyệt đối tăng cho thấy nhu cầu đang chiếm ưu thế.
Sự chuyển dịch sang các khối lượng công việc thiên về suy luận có lợi cho chip chuyên dụng và hệ thống thông lượng cao hơn là các cụm máy chỉ phục vụ huấn luyện.
Tóm lại: AI đang phổ biến nhanh hơn tốc độ mà cải thiện hiệu suất làm giảm nhu cầu phần cứng. Giá mỗi đơn vị lao dốc, nhưng tổng chi tiêu và nhu cầu hạ tầng vẫn tiếp tục tăng. Triển vọng tích cực cho lớp hạ tầng vật lý, chừng nào tăng trưởng sản lượng vẫn là động lực chi phối.