Jensen Huang đang lên tiếng phản đối những kẻ rao giảng “tận thế” về AI vì đưa ra các dự đoán thảm họa chưa được kiểm chứng mà không chịu trách nhiệm. Quan điểm của ông: theo dõi mọi tuyên bố mang tính tận thế và công khai buộc những người đó phải chịu trách nhiệm trước các dự đoán thất bại của họ.
Luận điểm kỹ thuật cốt lõi ở đây là khoảng cách giữa năng lực AI thực tế và câu chuyện gieo rắc nỗi sợ hãi. Các kiến trúc transformer hiện tại, ngay cả ở quy mô GPT-4, vẫn vận hành trong những hàm tối ưu hóa có giới hạn. Không có bằng chứng thực nghiệm nào cho thấy khả năng tự cải thiện đệ quy hoặc sự lệch mục tiêu ở quy mô thảm họa.
Điểm đáng chú ý: đây không chỉ là tranh luận triết học. Nó tác động trực tiếp đến việc phân bổ kinh phí cho nghiên cứu AI, các khung quy định và cách phân bổ năng lực tính toán (compute). Khi các lãnh đạo thúc đẩy các kịch bản rủi ro cực đoan mà không có cơ sở kỹ thuật, điều đó tạo ra sự tê liệt về mặt chính sách, làm chậm lại cả nghiên cứu an toàn AI lẫn việc triển khai thực tế.
Đề xuất quy trách nhiệm hình sự cho các giám đốc điều hành khi đưa ra các tuyên bố “doom” về AI sai là khá mạnh tay, nhưng nó nêu bật một vấn đề thật: bất đối xứng trách nhiệm. Nếu bạn định ảnh hưởng đến các quyết định hạ tầng trị giá hàng tỷ đô la và chính sách của chính phủ dựa trên các dự đoán mang tính tận thế, thì các dự đoán đó phải có cơ sở kỹ thuật, và phải có thể theo dõi được.
Tóm lại: nghiên cứu an toàn AI là rất quan trọng, nhưng nó cần dựa trên hành vi hệ thống thực tế và các vectơ rủi ro có thể đo lường, chứ không phải những kịch bản chạy tràn trong tương lai mà các kiến trúc hiện tại thậm chí không thể—ít nhất là về mặt lý thuyết—hỗ trợ.
Luận điểm kỹ thuật cốt lõi ở đây là khoảng cách giữa năng lực AI thực tế và câu chuyện gieo rắc nỗi sợ hãi. Các kiến trúc transformer hiện tại, ngay cả ở quy mô GPT-4, vẫn vận hành trong những hàm tối ưu hóa có giới hạn. Không có bằng chứng thực nghiệm nào cho thấy khả năng tự cải thiện đệ quy hoặc sự lệch mục tiêu ở quy mô thảm họa.
Điểm đáng chú ý: đây không chỉ là tranh luận triết học. Nó tác động trực tiếp đến việc phân bổ kinh phí cho nghiên cứu AI, các khung quy định và cách phân bổ năng lực tính toán (compute). Khi các lãnh đạo thúc đẩy các kịch bản rủi ro cực đoan mà không có cơ sở kỹ thuật, điều đó tạo ra sự tê liệt về mặt chính sách, làm chậm lại cả nghiên cứu an toàn AI lẫn việc triển khai thực tế.
Đề xuất quy trách nhiệm hình sự cho các giám đốc điều hành khi đưa ra các tuyên bố “doom” về AI sai là khá mạnh tay, nhưng nó nêu bật một vấn đề thật: bất đối xứng trách nhiệm. Nếu bạn định ảnh hưởng đến các quyết định hạ tầng trị giá hàng tỷ đô la và chính sách của chính phủ dựa trên các dự đoán mang tính tận thế, thì các dự đoán đó phải có cơ sở kỹ thuật, và phải có thể theo dõi được.
Tóm lại: nghiên cứu an toàn AI là rất quan trọng, nhưng nó cần dựa trên hành vi hệ thống thực tế và các vectơ rủi ro có thể đo lường, chứ không phải những kịch bản chạy tràn trong tương lai mà các kiến trúc hiện tại thậm chí không thể—ít nhất là về mặt lý thuyết—hỗ trợ.