Chuyện buồn cười là: tôi đã cực kỳ lạc quan về AI tác nhân (agentic AI) hơn một năm nay, và đó là một trong những lý do chính khiến tôi nắm giữ các cổ phiếu mà tôi đang giữ—quan trọng nhất là bộ nhớ, và đặc biệt là NAND.
TrendForce vừa nâng dự báo giá NAND.
SSD doanh nghiệp tăng vọt, SSD tiêu dùng chững lại.
Các đơn hàng SSD doanh nghiệp vẫn đang leo lên vào Q4 nhờ nhu cầu từ mây ở Bắc Mỹ, và hai động lực mà họ nêu là AI tác nhân và cơ chế offload KV cache.
Các tác nhân tạo ra trạng thái.
Mỗi tác vụ mà một tác nhân chạy sẽ để lại kết quả truy xuất, các tệp làm việc và các bước trung gian, và tất cả thứ đó cần được lưu ở đâu đó—nhanh đủ để hữu ích và rẻ đủ để duy trì. Vì vậy, các nhà cung cấp cloud đang mở rộng quy mô các SSD QLC, vốn nhồi được nhiều bit trên mỗi đô la nhất trong mọi thứ, với giao diện đủ nhanh để phục vụ inference.
Offload KV cache là đầu còn lại.
Các mô hình cần giữ ngữ cảnh, và trước đây, thứ này nằm trong HBM và DRAM—hai nơi khan hiếm, đắt đỏ nhất để lưu bất cứ thứ gì trên đời. Đẩy những phần bạn không cần mỗi mili-giây lên SSD, bạn sẽ giải phóng các tầng đắt tiền cho công việc thực sự cần chúng.
TrendForce cho biết ngành đang xây dựng các framework đặc biệt để làm việc này, và các kiến trúc suy luận của Trung Quốc đã bắt đầu dựa vào nó.
Điều buồn cười là: cùng một báo cáo cũng nói rằng NAND cho người tiêu dùng đang bị dư cung, với YMTC bổ sung năng lực và một cơ cấu định giá theo hai đường hướng đang hình thành vào năm 2027.
NAND doanh nghiệp đang dần trở thành một sản phẩm khác biệt so với thứ nằm trong điện thoại của bạn—với nguồn cung riêng, người mua riêng và mức giá riêng.
Phần của thị trường mà các tác nhân cần là phần đang thiếu, còn phần đang dư cung là phần $SNDK không phụ thuộc vào.
Càng lạc quan $SNDK
TrendForce vừa nâng dự báo giá NAND.
SSD doanh nghiệp tăng vọt, SSD tiêu dùng chững lại.
Các đơn hàng SSD doanh nghiệp vẫn đang leo lên vào Q4 nhờ nhu cầu từ mây ở Bắc Mỹ, và hai động lực mà họ nêu là AI tác nhân và cơ chế offload KV cache.
Các tác nhân tạo ra trạng thái.
Mỗi tác vụ mà một tác nhân chạy sẽ để lại kết quả truy xuất, các tệp làm việc và các bước trung gian, và tất cả thứ đó cần được lưu ở đâu đó—nhanh đủ để hữu ích và rẻ đủ để duy trì. Vì vậy, các nhà cung cấp cloud đang mở rộng quy mô các SSD QLC, vốn nhồi được nhiều bit trên mỗi đô la nhất trong mọi thứ, với giao diện đủ nhanh để phục vụ inference.
Offload KV cache là đầu còn lại.
Các mô hình cần giữ ngữ cảnh, và trước đây, thứ này nằm trong HBM và DRAM—hai nơi khan hiếm, đắt đỏ nhất để lưu bất cứ thứ gì trên đời. Đẩy những phần bạn không cần mỗi mili-giây lên SSD, bạn sẽ giải phóng các tầng đắt tiền cho công việc thực sự cần chúng.
TrendForce cho biết ngành đang xây dựng các framework đặc biệt để làm việc này, và các kiến trúc suy luận của Trung Quốc đã bắt đầu dựa vào nó.
Điều buồn cười là: cùng một báo cáo cũng nói rằng NAND cho người tiêu dùng đang bị dư cung, với YMTC bổ sung năng lực và một cơ cấu định giá theo hai đường hướng đang hình thành vào năm 2027.
NAND doanh nghiệp đang dần trở thành một sản phẩm khác biệt so với thứ nằm trong điện thoại của bạn—với nguồn cung riêng, người mua riêng và mức giá riêng.
Phần của thị trường mà các tác nhân cần là phần đang thiếu, còn phần đang dư cung là phần $SNDK không phụ thuộc vào.
Càng lạc quan $SNDK