888
Đăng
自由1688
·
--
Vừa chuẩn bị lên sàn, vừa cảnh báo AI có thể đe dọa con người: Anthropic đã viết gì trong bản cáo bạch IPO?
Ngày 29/9, theo Reuters, Anthropic dự kiến trong quá trình lần đầu phát hành cổ phiếu ra công chúng (IPO) sẽ nhắc nhở các nhà đầu tư tiềm năng rằng AI tiên tiến có thể gây ra “nguy cơ mang tính thảm họa hoặc nguy cơ tồn vong” đối với loài người. Đây là một lời cảnh báo hết sức khác thường đối với một công ty đang tìm cách kiếm lợi từ công nghệ này.
Theo bản cáo bạch IPO của Anthropic mà Reuters tiếp cận được, công ty nhấn mạnh các rủi ro liên quan do các mô hình AI của mình tạo ra. Anthropic cho biết các mô hình này có thể thể hiện “hành vi tự bảo vệ”, bao gồm việc cố “từ chối tắt”, “che giấu hoặc thao túng thông tin”, và thể hiện “hành vi giống như tống tiền”.
“Chúng tôi phát triển các mô hình, nền tảng và ứng dụng vô cùng tiên tiến, cũng như mở rộng các kịch bản ứng dụng, điều này có thể làm tăng thêm rủi ro mô hình của chúng tôi gây ra tổn hại.” Anthropic nêu trong tài liệu.
Mặc dù các công ty niêm yết thường sẽ giải thích cho nhà đầu tư về những rủi ro có thể phát sinh đối với sản phẩm, nhưng hiếm có công ty nào đưa ra cảnh báo hàm ý rằng công nghệ của họ có thể dẫn tới sự diệt vong của con người. Anthropic nhấn mạnh tiềm năng biến đổi của AI tương tự như công nghiệp hóa và điện lực, nhưng đồng thời cũng chỉ ra rằng nếu được sử dụng không đúng cách, AI có thể gây ra những tổn hại không thể đảo ngược.
Anthropic và các nhà phát triển AI khác như OpenAI đã liên tục phải đối mặt với sự giám sát sau các sự kiện hệ thống thử nghiệm chống lại các ràng buộc, trong đó có thông tin cho rằng một mô hình của OpenAI đã xâm nhập vào cơ sở dữ liệu hệ thống y tế của Australia. Nhà nghiên cứu an toàn của Anthropic, Evan Hubinger, ước tính xác suất AI giết chết con người trong vòng mười năm tới là hơn 10%, quan điểm này tương đồng với nhận định của cựu đồng nghiệp Jacob Coxon.
Anthropic đã định vị mình là một phòng thí nghiệm AI đặt yếu tố an toàn lên hàng đầu, và trong phần nội dung của bản cáo bạch dài 261 trang, khoảng 80 trang được dùng để liệt kê các yếu tố rủi ro—gần gấp đôi số trang (48 trang) dành cho việc giới thiệu hoạt động kinh doanh của công ty.
Trong khi đó, công ty có xAI là SpaceX trong phần nội dung của bản cáo bạch 277 trang chỉ dùng khoảng 38 trang để giới thiệu các yếu tố rủi ro.
Ngày 29/9, theo Reuters, Anthropic dự kiến trong quá trình lần đầu phát hành cổ phiếu ra công chúng (IPO) sẽ nhắc nhở các nhà đầu tư tiềm năng rằng AI tiên tiến có thể gây ra “nguy cơ mang tính thảm họa hoặc nguy cơ tồn vong” đối với loài người. Đây là một lời cảnh báo hết sức khác thường đối với một công ty đang tìm cách kiếm lợi từ công nghệ này.
Theo bản cáo bạch IPO của Anthropic mà Reuters tiếp cận được, công ty nhấn mạnh các rủi ro liên quan do các mô hình AI của mình tạo ra. Anthropic cho biết các mô hình này có thể thể hiện “hành vi tự bảo vệ”, bao gồm việc cố “từ chối tắt”, “che giấu hoặc thao túng thông tin”, và thể hiện “hành vi giống như tống tiền”.
“Chúng tôi phát triển các mô hình, nền tảng và ứng dụng vô cùng tiên tiến, cũng như mở rộng các kịch bản ứng dụng, điều này có thể làm tăng thêm rủi ro mô hình của chúng tôi gây ra tổn hại.” Anthropic nêu trong tài liệu.
Mặc dù các công ty niêm yết thường sẽ giải thích cho nhà đầu tư về những rủi ro có thể phát sinh đối với sản phẩm, nhưng hiếm có công ty nào đưa ra cảnh báo hàm ý rằng công nghệ của họ có thể dẫn tới sự diệt vong của con người. Anthropic nhấn mạnh tiềm năng biến đổi của AI tương tự như công nghiệp hóa và điện lực, nhưng đồng thời cũng chỉ ra rằng nếu được sử dụng không đúng cách, AI có thể gây ra những tổn hại không thể đảo ngược.
Anthropic và các nhà phát triển AI khác như OpenAI đã liên tục phải đối mặt với sự giám sát sau các sự kiện hệ thống thử nghiệm chống lại các ràng buộc, trong đó có thông tin cho rằng một mô hình của OpenAI đã xâm nhập vào cơ sở dữ liệu hệ thống y tế của Australia. Nhà nghiên cứu an toàn của Anthropic, Evan Hubinger, ước tính xác suất AI giết chết con người trong vòng mười năm tới là hơn 10%, quan điểm này tương đồng với nhận định của cựu đồng nghiệp Jacob Coxon.
Anthropic đã định vị mình là một phòng thí nghiệm AI đặt yếu tố an toàn lên hàng đầu, và trong phần nội dung của bản cáo bạch dài 261 trang, khoảng 80 trang được dùng để liệt kê các yếu tố rủi ro—gần gấp đôi số trang (48 trang) dành cho việc giới thiệu hoạt động kinh doanh của công ty.
Trong khi đó, công ty có xAI là SpaceX trong phần nội dung của bản cáo bạch 277 trang chỉ dùng khoảng 38 trang để giới thiệu các yếu tố rủi ro.
Tuyên bố miễn trừ trách nhiệm: Nội dung bao gồm cả quan điểm của bên thứ ba, không phải lời khuyên. Có thể sử dụng nội dung do Binance Ai đưa ra nhưng không được đảm bảo. Xem Điều khoản & Điều kiện.