Bức ảnh châm biếm của Musk khi chuyển tiếp cộng đồng AI:
Trước đây là chứng minh lý thuyết, giờ thì chỉ lo chất GPU
Có vẻ như đến tận năm 2028 vẫn là “thiên hạ” của ngành lưu trữ
Musk đã chuyển tiếp một hình so sánh “AI then / AI now” và chỉ bình luận bằng một từ: “Accurate ?”
Trong hình, nghiên cứu học máy trước đây cần thiết kế các phương pháp hạt nhân, chứng minh vì sao mô hình hoạt động hiệu quả, và xây dựng mô hình xác suất. Đến thời đại mô hình lớn, phương pháp chỉ còn ba bước: làm Transformer to hơn, cho nhiều dữ liệu hơn, rồi thêm nhiều GPU hơn nữa—thế là mô hình lại mạnh lên lần nữa.
Đó chính là sự bối rối thực tại của ngành mô hình lớn: trước kia nghiên cứu nguyên lý rồi mới thiết kế mô hình; bây giờ thường là mở rộng quy mô trước, rồi mới nghiên cứu vì sao năng lực lại xuất hiện.