Hơn 2.600 nhà lãnh đạo và nhà nghiên cứu công nghệ đã ký vào một bức thư ngỏ kêu gọi tạm dừng phát triển trí tuệ nhân tạo (AI) vì lo ngại "những rủi ro sâu sắc đối với xã hội và nhân loại".
Giám đốc điều hành Tesla Elon Musk, đồng sáng lập Apple Steve Wozniak và nhiều giám đốc điều hành, giám đốc công nghệ và nhà nghiên cứu AI nằm trong số những người ký vào bức thư do Viện nghiên cứu Tương lai của Cuộc sống (FOLI) của Hoa Kỳ biên soạn vào ngày 22 tháng 3.
Viện kêu gọi tất cả các công ty AI "ngay lập tức tạm dừng" việc đào tạo các hệ thống AI mạnh hơn GPT-4 trong ít nhất sáu tháng, chia sẻ mối lo ngại rằng "trí thông minh cạnh tranh với con người có thể gây ra rủi ro sâu sắc cho xã hội và nhân loại", trong số những vấn đề khác:
“AI tiên tiến có thể đại diện cho một sự thay đổi sâu sắc trong lịch sử sự sống trên Trái đất và cần được lên kế hoạch và quản lý với sự chăm sóc và nguồn lực tương xứng. Thật không may, mức độ lập kế hoạch và quản lý này không diễn ra”, viện đã viết trong thư.
GPT-4 là phiên bản mới nhất của chatbot chạy bằng trí tuệ nhân tạo của OpenAI, được phát hành vào ngày 14 tháng 3. Cho đến nay, nó đã vượt qua một số kỳ thi trung học và luật nghiêm ngặt nhất của Hoa Kỳ trong phạm vi phần trăm thứ 90. Nó được hiểu là tiên tiến hơn gấp 10 lần so với phiên bản gốc của ChatGPT.
FOLI tuyên bố rằng có một "cuộc đua ngoài tầm kiểm soát" giữa các công ty AI để phát triển AI mạnh mẽ hơn mà "không ai - kể cả những người tạo ra chúng - có thể hiểu, dự đoán hoặc kiểm soát đáng tin cậy".
Trong số những mối quan tâm hàng đầu là liệu máy móc có thể tràn ngập các kênh thông tin, có khả năng chứa "tuyên truyền và sự dối trá" hay không và liệu máy móc có "tự động hóa" mọi cơ hội việc làm hay không.
FOLI đã đưa những lo ngại này tiến thêm một bước nữa khi cho rằng những nỗ lực kinh doanh của các công ty AI này có thể dẫn đến mối đe dọa hiện hữu:
“Liệu chúng ta có nên phát triển những tâm trí phi nhân loại mà cuối cùng có thể vượt trội hơn, thông minh hơn, lỗi thời và thay thế chúng ta không? Chúng ta có nên mạo hiểm mất quyền kiểm soát nền văn minh của mình không?”
Bức thư nói thêm rằng: "Những quyết định như vậy không được phép giao cho các nhà lãnh đạo công nghệ không được bầu".
Viện cũng đồng ý với tuyên bố gần đây của nhà sáng lập OpenAI Sam Altman cho rằng có thể cần phải có đánh giá độc lập trước khi đào tạo các hệ thống AI trong tương lai.
Trong bài đăng trên blog ngày 24 tháng 2, Altman đã nhấn mạnh đến nhu cầu chuẩn bị cho robot có trí tuệ nhân tạo tổng quát (AGI) và siêu trí tuệ nhân tạo (ASI).
Tuy nhiên, không phải tất cả các chuyên gia AI đều vội vàng ký vào bản kiến nghị. Ben Goertzel, CEO của SingularityNET đã giải thích trong phản hồi trên Twitter ngày 29 tháng 3 cho Gary Marcus, tác giả của Rebooting.AI rằng các mô hình học ngôn ngữ (LLM) sẽ không trở thành AGI, mà cho đến nay, vẫn có rất ít sự phát triển.
Thay vào đó, ông cho biết nghiên cứu và phát triển các thứ như vũ khí sinh học và vũ khí hạt nhân nên được chậm lại:
Ngoài các mô hình học ngôn ngữ như ChatGPT, công nghệ deep fake hỗ trợ AI đã được sử dụng để tạo ra các hình ảnh, âm thanh và video lừa đảo có sức thuyết phục. Công nghệ này cũng đã được sử dụng để tạo ra tác phẩm nghệ thuật do AI tạo ra, với một số lo ngại được nêu ra về việc liệu nó có thể vi phạm luật bản quyền trong một số trường hợp hay không.
CEO của Galaxy Digital, Mike Novogratz gần đây đã chia sẻ với các nhà đầu tư rằng ông rất sốc khi thấy các cơ quan quản lý chú ý nhiều đến tiền điện tử, trong khi lại rất ít chú ý đến trí tuệ nhân tạo.
“Khi tôi nghĩ về AI, tôi thấy sốc khi chúng ta nói quá nhiều về quy định về tiền điện tử và không nói gì về quy định về AI. Ý tôi là, tôi nghĩ chính phủ đã đảo lộn hoàn toàn,” ông bày tỏ quan điểm trong cuộc gọi với các cổ đông vào ngày 28 tháng 3.
FOLI lập luận rằng nếu lệnh tạm dừng phát triển AI không được ban hành nhanh chóng, các chính phủ nên vào cuộc.
“Việc tạm dừng này phải được công khai và có thể xác minh được, và bao gồm tất cả các bên liên quan chính. Nếu việc tạm dừng như vậy không thể được thực hiện nhanh chóng, các chính phủ nên vào cuộc và ban hành lệnh hoãn”, báo cáo viết.
