Các chuyên gia AI nổi tiếng và các nhân vật của công chúng đã đưa ra tuyên bố cảnh báo rằng AI có thể gây ra mối đe dọa cho sự sống còn của nhân loại, tương đương hoặc thậm chí lớn hơn nguy cơ đại dịch và chiến tranh hạt nhân. 350 bên ký kết lập luận rằng AI có thể gây ra những hậu quả thảm khốc và không lường trước được, chẳng hạn như giải phóng vũ khí tự động, phá vỡ hệ thống kinh tế và xã hội hoặc tạo ra các tác nhân siêu thông minh có thể thông minh hơn và chế ngự con người.

Họ kêu gọi các nhà hoạch định chính sách xem xét nghiêm túc những rủi ro này và áp dụng các biện pháp để đảm bảo sự phát triển AI an toàn và có lợi. Tuyên bố được ký bởi một số nhân vật hàng đầu trong nghiên cứu và phát triển AI, chẳng hạn như Giám đốc điều hành OpenAI Sam Altman, người đồng sáng lập Skype Jaan Tallinn, Giám đốc điều hành DeepMind Demis Hassabis và nhà khoa học máy tính AI Geoffrey Hinton, cũng như các nhân vật có ảnh hưởng trong công chúng , chẳng hạn như nhạc sĩ Grimes và podcaster Sam Harris.

Trong số những người ký kết có những người đoạt Giải thưởng Turing 2018 vì những đóng góp của họ cho việc học sâu: Geoffrey Hinton và Yoshua Bengio. Họ có sự tham gia của các giáo sư từ các trường đại học danh tiếng như Harvard và Đại học Thanh Hoa ở Trung Quốc, cũng như Max Tegmark của MIT.

“Giảm thiểu nguy cơ tuyệt chủng từ AI phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân,”

bức thư do CAIS công bố.

Trung tâm An toàn AI (CAIS), một tổ chức phi lợi nhuận có trụ sở tại San Francisco, nhằm mục đích giải quyết các mối lo ngại về an toàn liên quan đến trí tuệ nhân tạo. Trong khi thừa nhận những lợi ích tiềm tàng của AI, CAIS nhấn mạnh sự cần thiết phải phát triển và sử dụng nó một cách an toàn. Công ty tin rằng bất chấp những tiến bộ đáng kể về AI, nhiều thách thức cơ bản về an toàn AI vẫn chưa được giải quyết. Theo trang web của mình, sứ mệnh của CAIS là giảm thiểu rủi ro bằng cách tiến hành nghiên cứu an toàn, thúc đẩy cộng đồng các nhà nghiên cứu an toàn AI và ủng hộ các tiêu chuẩn an toàn.

“Có rất nhiều “rủi ro quan trọng và cấp bách từ AI”, không chỉ có nguy cơ tuyệt chủng; ví dụ: thành kiến ​​​​có hệ thống, thông tin sai lệch, sử dụng có mục đích xấu, tấn công mạng và vũ khí hóa. Đây đều là những rủi ro quan trọng cần được giải quyết. Xã hội có thể quản lý nhiều rủi ro cùng một lúc; nó không phải là “hoặc/hoặc” mà là “có/và”. Từ góc độ quản lý rủi ro, việc chỉ ưu tiên những tác hại hiện tại là liều lĩnh, việc bỏ qua chúng cũng là liều lĩnh.”

Dan Hendrycks, giám đốc CAIS viết trên Twitter.

Vào tháng 3, hơn 1.100 chuyên gia công nghệ đã ký một bức thư ngỏ yêu cầu tạm dừng sáu tháng việc đào tạo các hệ thống AI vượt qua GPT-4. Các nhà lập pháp châu Âu gần đây cũng đã phê duyệt dự thảo luật chặt chẽ hơn, được gọi là Đạo luật AI, điều chỉnh các công cụ AI như ChatGPT. Đạo luật này bao gồm các yêu cầu về kiểm tra an toàn, quản trị dữ liệu và giảm thiểu rủi ro cho các mô hình AI cơ bản, đồng thời nghiêm cấm các hành vi như kỹ thuật thao túng và sử dụng sinh trắc học nhất định.

Đọc thêm:

  • OpenAI tiết lộ phương pháp mới nhất để đảm bảo an toàn cho AI

  • Google sắp công bố trình tạo văn bản thành hình đại diện cho game thủ phải không?

  • CodeWhisperer của Amazon mang đến cho các nhà phát triển lợi thế mà họ cần trong Đấu trường AI

  • Vitalik Buterin và Giám đốc MIRI Nate Soares đi sâu vào mối nguy hiểm của AI

Bài đăng Các chuyên gia AI và nhân vật của công chúng đưa ra cảnh báo về nguy cơ tuyệt chủng của AI xuất hiện đầu tiên trên Metaverse Post.