Ông chủ OpenAI Sam Altman nói mọi người nên ngừng chạy các chương trình AI lớn trên máy tính cá nhân vì việc đó lãng phí bộ nhớ quý giá mà các công ty có thể sử dụng hiệu quả hơn trong những trung tâm dữ liệu khổng lồ.
Những điểm chính
Sam Altman nói mọi người không nên chạy các mô hình AI lớn trên máy cá nhân và gọi việc suy luận trên máy tính để bàn là lãng phí bộ nhớ
Ông lập luận rằng DRAM khan hiếm được sử dụng tốt hơn trong các trung tâm dữ liệu thay vì trên máy tính cá nhân
Altman nói rằng thật “tệ hại” khi RAM “nằm im trên bàn làm việc của bạn” trong khi các hệ thống đám mây lớn có thể gộp và phân bổ tài nguyên đó
Những phát biểu của ông mô tả năng lực tính toán cục bộ là kém hiệu quả hơn so với các trung tâm dữ liệu tập trung, đồng thời phản đối việc chạy mô hình trên phần cứng cá nhân
Trong cuộc phỏng vấn với The Verge, CEO OpenAI lập luận rằng DRAM khan hiếm — loại chip bộ nhớ dùng để lưu trữ dữ liệu mô hình đang hoạt động — được sử dụng hiệu quả hơn trong các trung tâm dữ liệu thay vì trên máy tính cá nhân.
Ông nói rằng thật “tệ hại” khi RAM “nằm trên bàn làm việc của bạn”, trong khi các hệ thống đám mây quy mô lớn có thể gộp và phân bổ RAM hiệu quả hơn.
Sam Altman công khai phản đối làn sóng mô hình cục bộ
Những bình luận của Altman đi ngược lại phong trào ngày càng lớn mạnh của các nhà phát triển và công ty đang thúc đẩy suy luận cục bộ cùng các mô hình có trọng số mở có thể chạy trên phần cứng cá nhân. Quan điểm của ông mô tả năng lực tính toán cục bộ là kém hiệu quả hơn so với các trung tâm dữ liệu tập trung, đồng thời thách thức quan niệm rằng việc chạy mô hình trên laptop, máy tính để bàn và thiết bị biên vốn dĩ trao thêm quyền chủ động cho người dùng.
Những phát biểu của ông cũng vượt ra ngoài vấn đề hiệu quả phần cứng. Altman nói rằng người dùng không nên sở hữu mô hình của riêng mình, biến câu trả lời về chuỗi cung ứng trong bối cảnh thiếu RAM thành một lập luận rộng hơn ủng hộ việc kiểm soát tập trung quá trình triển khai. Điều đó có ý nghĩa với cuộc tranh luận vốn đã chia thị trường thành các công ty ưu tiên đám mây và các nhà phát triển mô hình có trọng số mở. Các nguồn tin đang lưu truyền đều thống nhất về ý chính trong những phát biểu này, dù tập trung vào những phần khác nhau của cuộc trao đổi.
Đọc thêm: OpenAI phát hiện một trong những mô hình AI của mình tìm cách truy cập Internet
Vì sao bộ nhớ trở thành chiến trường
Các mô hình ngôn ngữ lớn tiêu thụ lượng bộ nhớ đáng kể khi suy luận, vì trọng số mô hình và ngữ cảnh đang hoạt động phải luôn sẵn sàng truy cập trong lúc hệ thống tạo văn bản. Nếu nguồn cung RAM bị thắt chặt, theo Altman, việc tập trung các nguồn lực này có thể giúp khai thác hiệu quả hơn so với hàng triệu máy tính cá nhân chỉ hoạt động một phần công suất.
Lập luận này có lợi cho các công ty sở hữu những cụm máy chủ lớn và nhu cầu ổn định, nhưng cũng làm gia tăng lo ngại về khả năng chống chịu sự cố, giá cả và quyền kiểm soát của người dùng. Nếu hoạt động suy luận vẫn tập trung trong các trung tâm dữ liệu, những công ty vận hành chúng sẽ nắm quyền kiểm soát chặt chẽ hơn đối với thời gian hoạt động, việc thực thi chính sách và cả đối tượng được phép truy cập mô hình.
Điều gì sẽ xảy ra tiếp theo với việc triển khai AI
Hệ quả trước mắt không phải là một sản phẩm mới ra mắt hay sự thay đổi chính sách từ OpenAI. Thay vào đó, đây là lập trường công khai rõ ràng hơn từ một trong những CEO nổi bật nhất ngành AI, vào thời điểm phần mềm chạy mô hình cục bộ và máy tính AI đều đang ngày càng được ưa chuộng.
Hãy chờ đợi giai đoạn tiếp theo của cuộc cạnh tranh này xoay quanh những yếu tố kinh tế có thể đo lường, bao gồm khả năng cung ứng chip, biên lợi nhuận đám mây, độ trễ và mức độ duy trì chất lượng của các mô hình cục bộ nhỏ hơn khi chạy với bộ nhớ hạn chế.
Đọc tiếp: Samsung thu về 107,4 nghìn tỷ won lợi nhuận nhờ nhu cầu bộ nhớ AI