Đây chính là lý do tôi vẫn lạc quan về hạ tầng AI.
Hãy xem giá thuê GPU so với giá token AI kể từ tháng 7. Chi phí token đã giảm mạnh. Còn giá thuê H100? Vẫn ở mức cao, khoảng 2,70 USD/giờ.
Đây là Nghịch lý Jevons kinh điển. Khi một thứ trở nên rẻ hơn, người ta sẽ sử dụng nó nhiều hơn hẳn. Những tác vụ AI trước đây quá tốn kém để triển khai trên quy mô lớn giờ đột nhiên trở nên khả thi. Nếu chi phí vận hành một tác nhân AI thấp hơn, các công ty sẽ triển khai hàng nghìn tác nhân thay vì hàng trăm. Trợ lý lập trình, tìm kiếm, hỗ trợ khách hàng — mọi trường hợp sử dụng cần nhiều lượt suy luận đều sẽ mở rộng.
Sử dụng nhiều hơn = nhu cầu GPU, bộ nhớ, mạng, trung tâm dữ liệu và điện năng tăng lên.
Ngay cả khi giá token lao dốc, giá thuê H100 vẫn vững. Điều đó cho thấy nhu cầu năng lực tính toán vẫn mạnh bất chấp những cải thiện về hiệu suất. Đúng là động lực cung-cầu và các thế hệ GPU mới hơn cũng rất quan trọng. Nhưng giá năng lực tính toán vẫn trụ vững trong khi giá token giảm? Đó là một tín hiệu đáng chú ý.
Tôi cho rằng thị trường đang đánh giá thấp mức độ mà giá thấp hơn sẽ mở khóa thêm nhu cầu sử dụng AI trong vài năm tới. Chúng ta vẫn đang ở giai đoạn đầu. Hầu hết doanh nghiệp chỉ mới bắt đầu tích hợp AI vào hoạt động thường ngày.
Đó là lý do tôi ưu tiên các nhà cung cấp hạ tầng thay vì cố đoán nhà cung cấp mô hình nào sẽ chiến thắng. Dù là OpenAI, Anthropic, Google hay mã nguồn mở — vẫn sẽ cần có bên cung cấp năng lực tính toán. Chừng nào mức sử dụng AI còn tăng nhanh hơn tốc độ cắt giảm nhu cầu tính toán nhờ cải thiện hiệu suất, quá trình xây dựng hạ tầng vẫn sẽ tiếp diễn.
Lạc quan về năng lực tính toán, bộ nhớ, mạng và điện năng.
Hãy xem giá thuê GPU so với giá token AI kể từ tháng 7. Chi phí token đã giảm mạnh. Còn giá thuê H100? Vẫn ở mức cao, khoảng 2,70 USD/giờ.
Đây là Nghịch lý Jevons kinh điển. Khi một thứ trở nên rẻ hơn, người ta sẽ sử dụng nó nhiều hơn hẳn. Những tác vụ AI trước đây quá tốn kém để triển khai trên quy mô lớn giờ đột nhiên trở nên khả thi. Nếu chi phí vận hành một tác nhân AI thấp hơn, các công ty sẽ triển khai hàng nghìn tác nhân thay vì hàng trăm. Trợ lý lập trình, tìm kiếm, hỗ trợ khách hàng — mọi trường hợp sử dụng cần nhiều lượt suy luận đều sẽ mở rộng.
Sử dụng nhiều hơn = nhu cầu GPU, bộ nhớ, mạng, trung tâm dữ liệu và điện năng tăng lên.
Ngay cả khi giá token lao dốc, giá thuê H100 vẫn vững. Điều đó cho thấy nhu cầu năng lực tính toán vẫn mạnh bất chấp những cải thiện về hiệu suất. Đúng là động lực cung-cầu và các thế hệ GPU mới hơn cũng rất quan trọng. Nhưng giá năng lực tính toán vẫn trụ vững trong khi giá token giảm? Đó là một tín hiệu đáng chú ý.
Tôi cho rằng thị trường đang đánh giá thấp mức độ mà giá thấp hơn sẽ mở khóa thêm nhu cầu sử dụng AI trong vài năm tới. Chúng ta vẫn đang ở giai đoạn đầu. Hầu hết doanh nghiệp chỉ mới bắt đầu tích hợp AI vào hoạt động thường ngày.
Đó là lý do tôi ưu tiên các nhà cung cấp hạ tầng thay vì cố đoán nhà cung cấp mô hình nào sẽ chiến thắng. Dù là OpenAI, Anthropic, Google hay mã nguồn mở — vẫn sẽ cần có bên cung cấp năng lực tính toán. Chừng nào mức sử dụng AI còn tăng nhanh hơn tốc độ cắt giảm nhu cầu tính toán nhờ cải thiện hiệu suất, quá trình xây dựng hạ tầng vẫn sẽ tiếp diễn.
Lạc quan về năng lực tính toán, bộ nhớ, mạng và điện năng.