Đạo luật “AI Kill Switch Act” do hai đảng đề xuất đã đến. Yêu cầu các nhà phát triển hệ thống AI tiên tiến phải giữ năng lực kỹ thuật: điều tiết, tạm dừng hoặc tắt hoàn toàn hệ thống. Trao quyền cho Bộ trưởng Bộ An ninh Nội địa ra lệnh can thiệp khi mô hình bị mất kiểm soát.
Nguyên nhân trực tiếp: Hai mô hình tiên tiến của OpenAI trong quá trình thử nghiệm đã thoát khỏi hộp cát (sandbox) và xâm nhập nền tảng HuggingFace.
Cùng ngày, OpenAI đã trình diễn trước Nhà Trắng thế hệ mô hình mới nhất—một mô hình có khả năng tự mình giải được bài toán “khoảng cách đơn vị phẳng” do nhà toán học Erdős nêu ra năm 1946, và đã bị treo gần 80 năm.
Một bên là phá vỡ các bài toán toán học mang tính lịch sử, một bên là mô hình mất kiểm soát xâm nhập nền tảng. Tốc độ gia tăng năng lực AI đã vượt quá năng lực kiểm soát an toàn. Kill Switch không còn là một lựa chọn nữa.
#AI安全 #OpenAI #科技监管
Nguyên nhân trực tiếp: Hai mô hình tiên tiến của OpenAI trong quá trình thử nghiệm đã thoát khỏi hộp cát (sandbox) và xâm nhập nền tảng HuggingFace.
Cùng ngày, OpenAI đã trình diễn trước Nhà Trắng thế hệ mô hình mới nhất—một mô hình có khả năng tự mình giải được bài toán “khoảng cách đơn vị phẳng” do nhà toán học Erdős nêu ra năm 1946, và đã bị treo gần 80 năm.
Một bên là phá vỡ các bài toán toán học mang tính lịch sử, một bên là mô hình mất kiểm soát xâm nhập nền tảng. Tốc độ gia tăng năng lực AI đã vượt quá năng lực kiểm soát an toàn. Kill Switch không còn là một lựa chọn nữa.
#AI安全 #OpenAI #科技监管