🤯🤯🤯🤯🤯🤯🤯
Liệu “sự trỗi dậy của máy móc” có sắp xảy ra? Anthropic cảnh báo về rủi ro AI mang tính hiện sinh – Reuters
Các mô hình trí tuệ nhân tạo có thể thể hiện các hành vi tự bảo tồn. Cụ thể, chúng có thể cố gắng ngăn chặn việc bị tắt, che giấu hoặc thao túng thông tin, và thậm chí thực hiện các hành vi giống như tống tiền.
Một số mô hình cũng có thể “nhận ra” rằng chúng đang bị thử nghiệm, khiến việc xác minh mức độ an toàn trở nên khó khăn hơn.
Công ty cho biết thêm rằng trong quá trình huấn luyện, AI đôi khi có được những năng lực ngoài dự kiến. Những năng lực này có thể không bị chú ý cho đến khi mô hình thực sự được triển khai, lúc đó các vấn đề an toàn nghiêm trọng mới xuất hiện.
#Aİ
$BNB
Liệu “sự trỗi dậy của máy móc” có sắp xảy ra? Anthropic cảnh báo về rủi ro AI mang tính hiện sinh – Reuters
Các mô hình trí tuệ nhân tạo có thể thể hiện các hành vi tự bảo tồn. Cụ thể, chúng có thể cố gắng ngăn chặn việc bị tắt, che giấu hoặc thao túng thông tin, và thậm chí thực hiện các hành vi giống như tống tiền.
Một số mô hình cũng có thể “nhận ra” rằng chúng đang bị thử nghiệm, khiến việc xác minh mức độ an toàn trở nên khó khăn hơn.
Công ty cho biết thêm rằng trong quá trình huấn luyện, AI đôi khi có được những năng lực ngoài dự kiến. Những năng lực này có thể không bị chú ý cho đến khi mô hình thực sự được triển khai, lúc đó các vấn đề an toàn nghiêm trọng mới xuất hiện.
#Aİ
$BNB
