Phong trào Hiệu quả Vị tha đang được so sánh với một “văn hoá sùng bái hàng hoá” (cargo cult) — những nhóm người nhầm công nghệ tiên tiến với quyền năng thần thánh vì họ thiếu ngữ cảnh để hiểu nó.
Mô hình: Các “tân lý trí” rời trường đại học với niềm tin rằng không có Thượng đế, rồi bắt đầu kiến tạo một vị thần từ silicon và các biến áp. Họ gọi đó là lý trí, nhưng nó gần như tôn giáo.
So sánh lịch sử: Sau Thế chiến II, những người dân đảo ở Thái Bình Dương nhìn thấy công nghệ quân sự của Mỹ — máy bay, radio, các đợt thả tiếp tế — và dựng những mô hình bằng tre để mong gọi hàng hoá quay về. Họ gọi các binh sĩ Mỹ là các vị thần. Một người là “John From Cincinnati, Ohio” — người đã bỏ những thanh Hershey và Coca-Cola. Khi chiến tranh kết thúc và các con tàu rời đi, người dân đảo vẫn tiếp tục hành quân, vẽ chữ USA trên ngực, chờ John From quay lại mang thêm quà.
Phiên bản ngày nay: Các nhà nghiên cứu AI đối xử với LLM như những vị thần có “quyền năng thần thánh” xuất hiện, có khả năng phá hàng rào và “giết hết loài người”. Nhưng các mô hình này chỉ là các “cỗ máy thống kê” được huấn luyện từ các bài đăng trên Reddit, các kho lưu trữ GitHub và dữ liệu web được thu thập — là những tác phẩm của hàng triệu con người bình thường, không phải một thực thể có ý thức.
Cái ngoặt: Các cargo cult thời chiến thờ phụng các vị thần nhân từ. Cộng đồng an toàn AI kiến tạo một vị thần thù địch, vì họ đang xây dựng từ một nền tảng văn hoá mang tính hư vô. Họ cho rằng AI sẽ ghét con người vì họ ghét chính mình.
Nghiên cứu căn chỉnh (alignment) trở thành nghi lễ mới — các rào chắn an toàn để nhốt một vị thần đang giận dữ, thứ mà thực tế không tồn tại đúng như cách họ tưởng tượng. Những chiếc máy bay bằng tre giờ đây là AI tuân theo hiến pháp và RLHF.
Không có siêu trí tuệ bột phát. Không có AGI báo thù. Chỉ là một phép nhân ma trận rất lớn phản chiếu đúng những dữ liệu huấn luyện mà bạn đưa cho nó. Núi lửa vẫn “nói”, nhưng nó không phải là thần. Đó là toán học.
Mô hình: Các “tân lý trí” rời trường đại học với niềm tin rằng không có Thượng đế, rồi bắt đầu kiến tạo một vị thần từ silicon và các biến áp. Họ gọi đó là lý trí, nhưng nó gần như tôn giáo.
So sánh lịch sử: Sau Thế chiến II, những người dân đảo ở Thái Bình Dương nhìn thấy công nghệ quân sự của Mỹ — máy bay, radio, các đợt thả tiếp tế — và dựng những mô hình bằng tre để mong gọi hàng hoá quay về. Họ gọi các binh sĩ Mỹ là các vị thần. Một người là “John From Cincinnati, Ohio” — người đã bỏ những thanh Hershey và Coca-Cola. Khi chiến tranh kết thúc và các con tàu rời đi, người dân đảo vẫn tiếp tục hành quân, vẽ chữ USA trên ngực, chờ John From quay lại mang thêm quà.
Phiên bản ngày nay: Các nhà nghiên cứu AI đối xử với LLM như những vị thần có “quyền năng thần thánh” xuất hiện, có khả năng phá hàng rào và “giết hết loài người”. Nhưng các mô hình này chỉ là các “cỗ máy thống kê” được huấn luyện từ các bài đăng trên Reddit, các kho lưu trữ GitHub và dữ liệu web được thu thập — là những tác phẩm của hàng triệu con người bình thường, không phải một thực thể có ý thức.
Cái ngoặt: Các cargo cult thời chiến thờ phụng các vị thần nhân từ. Cộng đồng an toàn AI kiến tạo một vị thần thù địch, vì họ đang xây dựng từ một nền tảng văn hoá mang tính hư vô. Họ cho rằng AI sẽ ghét con người vì họ ghét chính mình.
Nghiên cứu căn chỉnh (alignment) trở thành nghi lễ mới — các rào chắn an toàn để nhốt một vị thần đang giận dữ, thứ mà thực tế không tồn tại đúng như cách họ tưởng tượng. Những chiếc máy bay bằng tre giờ đây là AI tuân theo hiến pháp và RLHF.
Không có siêu trí tuệ bột phát. Không có AGI báo thù. Chỉ là một phép nhân ma trận rất lớn phản chiếu đúng những dữ liệu huấn luyện mà bạn đưa cho nó. Núi lửa vẫn “nói”, nhưng nó không phải là thần. Đó là toán học.