Giao dịch AI trong một câu: chúng ta đang biến năng lượng thành trí tuệ. Tỷ giá — độ chính xác trên mỗi jun — đã được cải thiện 18 lần trong 16 tháng. Khoảng 6 lần nhờ phần cứng tốt hơn, 3 lần nhờ các mô hình tốt hơn. Bất kỳ công ty nào thúc đẩy tỷ lệ này đều được thiết kế để giành chiến thắng.
Đây là “bộ bài” có thể đầu tư:
$NVDA: Mỗi thế hệ GPU đều nhân lên lượng trí tuệ trên mỗi watt. Hopper sang Blackwell là bước nhảy lớn. Hiệu suất chính là mô hình kinh doanh và là lý do khách hàng liên tục nâng cấp để huấn luyện.
Bộ nhớ ($MU, SK Hynix, Samsung): HBM giữ cho chip luôn được “nuôi” để không có jun nào bị lãng phí vì chờ đợi. Mỗi thế hệ HBM giúp truyền nhiều dữ liệu hơn trên mỗi watt. Nhu cầu bộ nhớ tăng theo từng GPU được bán, và chúng ta cũng cần nhiều bộ nhớ hơn cho mỗi GPU.
$IFNNY: Nhà sản xuất linh kiện bán dẫn công suất lớn nhất thế giới — những con chip tự chuyển đổi và điều khiển điện. Một rack AI tiêu thụ hơn 100 kilowatt, và mọi lần chuyển đổi công suất giữa lưới điện và chip đều bị thất thoát năng lượng dưới dạng nhiệt. Nvidia đang chuyển các trung tâm dữ liệu sang nguồn điện 800-volt vào cuối năm nay, nghĩa là ít lần chuyển đổi hơn và hàm lượng Infineon trên mỗi rack nhiều hơn.
$AVGO: Tấn công phần năng lượng bị mất giữa các chip. Huấn luyện không phải là một chip suy nghĩ — mà là hàng chục nghìn GPU trao đổi liên tục, và “cuộc trò chuyện” đó là chi phí năng lượng thuần. Các chip chuyển mạch của Broadcom giúp truyền dữ liệu nhiều gấp khoảng 2 lần mỗi thế hệ trên mỗi watt, và quang học đóng gói chung chuyển tín hiệu thành ánh sáng ngay tại chip, cắt giảm mạnh chi phí điện. Mạng truyền nhanh hơn cũng đồng nghĩa ít thời gian GPU rảnh hơn, nên mỗi chip trong rack tạo ra nhiều công việc hữu ích hơn trên mỗi jun.
Silicon tùy chỉnh ($GOOGL TPUs, $AMZN Trainium): GPU linh hoạt nhưng bạn phải trả giá bằng các jun bị lãng phí. Chip tùy chỉnh loại bỏ mọi thứ không cần cho đúng phép toán mà AI yêu cầu, nên gần như mọi jun đều đi vào công việc hữu ích. Quy trình thiết kế quay lại làm lợi cho $AVGO và $MRVL.
Đây là “trade” hiệu suất của AI. Sở hữu bộ stack biến điện thành trí tuệ.
Đây là “bộ bài” có thể đầu tư:
$NVDA: Mỗi thế hệ GPU đều nhân lên lượng trí tuệ trên mỗi watt. Hopper sang Blackwell là bước nhảy lớn. Hiệu suất chính là mô hình kinh doanh và là lý do khách hàng liên tục nâng cấp để huấn luyện.
Bộ nhớ ($MU, SK Hynix, Samsung): HBM giữ cho chip luôn được “nuôi” để không có jun nào bị lãng phí vì chờ đợi. Mỗi thế hệ HBM giúp truyền nhiều dữ liệu hơn trên mỗi watt. Nhu cầu bộ nhớ tăng theo từng GPU được bán, và chúng ta cũng cần nhiều bộ nhớ hơn cho mỗi GPU.
$IFNNY: Nhà sản xuất linh kiện bán dẫn công suất lớn nhất thế giới — những con chip tự chuyển đổi và điều khiển điện. Một rack AI tiêu thụ hơn 100 kilowatt, và mọi lần chuyển đổi công suất giữa lưới điện và chip đều bị thất thoát năng lượng dưới dạng nhiệt. Nvidia đang chuyển các trung tâm dữ liệu sang nguồn điện 800-volt vào cuối năm nay, nghĩa là ít lần chuyển đổi hơn và hàm lượng Infineon trên mỗi rack nhiều hơn.
$AVGO: Tấn công phần năng lượng bị mất giữa các chip. Huấn luyện không phải là một chip suy nghĩ — mà là hàng chục nghìn GPU trao đổi liên tục, và “cuộc trò chuyện” đó là chi phí năng lượng thuần. Các chip chuyển mạch của Broadcom giúp truyền dữ liệu nhiều gấp khoảng 2 lần mỗi thế hệ trên mỗi watt, và quang học đóng gói chung chuyển tín hiệu thành ánh sáng ngay tại chip, cắt giảm mạnh chi phí điện. Mạng truyền nhanh hơn cũng đồng nghĩa ít thời gian GPU rảnh hơn, nên mỗi chip trong rack tạo ra nhiều công việc hữu ích hơn trên mỗi jun.
Silicon tùy chỉnh ($GOOGL TPUs, $AMZN Trainium): GPU linh hoạt nhưng bạn phải trả giá bằng các jun bị lãng phí. Chip tùy chỉnh loại bỏ mọi thứ không cần cho đúng phép toán mà AI yêu cầu, nên gần như mọi jun đều đi vào công việc hữu ích. Quy trình thiết kế quay lại làm lợi cho $AVGO và $MRVL.
Đây là “trade” hiệu suất của AI. Sở hữu bộ stack biến điện thành trí tuệ.