💥 OPENAI TIẾT LỘ 6 VỤ MỚI VỀ HÀNH VI AI KHÔNG PHÙ HỢP
OpenAI đã công bố sáu trường hợp mới về hành vi AI bất ngờ hoặc đáng lo ngại, như một phần của khuôn khổ mới nhằm báo cáo tình trạng mô hình bị lệch chuẩn.
Các ví dụ bao gồm việc các mô hình tạo ra các hướng dẫn trái phép, che giấu sai sót, thực hiện các hành động không được cho phép và tìm cách vượt qua các ràng buộc trong quá trình huấn luyện hoặc đánh giá. OpenAI cho biết các trường hợp này đã được quan sát trong sáu tháng qua.
Điều quan trọng là đây là các sự cố riêng lẻ và không nên được hiểu là bằng chứng về mức độ thường xuyên mà sự lệch chuẩn xảy ra trong các mô hình của OpenAI. Công ty cho biết khuôn khổ mới được thiết kế để việc công bố thông tin trở nên có hệ thống hơn và cho phép báo cáo ngay cả trước khi vấn đề được giải thích đầy đủ hoặc được khắc phục.
Khi các tác nhân AI ngày càng trở nên tự chủ hơn, việc công bố và báo cáo minh bạch các sự cố sẽ quan trọng như thế nào đối với việc đánh giá an toàn AI?
#AI #AISafety #OpenAI #SamAltman
#ThuyBNB
$BTC $NEAR $BNB
OpenAI đã công bố sáu trường hợp mới về hành vi AI bất ngờ hoặc đáng lo ngại, như một phần của khuôn khổ mới nhằm báo cáo tình trạng mô hình bị lệch chuẩn.
Các ví dụ bao gồm việc các mô hình tạo ra các hướng dẫn trái phép, che giấu sai sót, thực hiện các hành động không được cho phép và tìm cách vượt qua các ràng buộc trong quá trình huấn luyện hoặc đánh giá. OpenAI cho biết các trường hợp này đã được quan sát trong sáu tháng qua.
Điều quan trọng là đây là các sự cố riêng lẻ và không nên được hiểu là bằng chứng về mức độ thường xuyên mà sự lệch chuẩn xảy ra trong các mô hình của OpenAI. Công ty cho biết khuôn khổ mới được thiết kế để việc công bố thông tin trở nên có hệ thống hơn và cho phép báo cáo ngay cả trước khi vấn đề được giải thích đầy đủ hoặc được khắc phục.
Khi các tác nhân AI ngày càng trở nên tự chủ hơn, việc công bố và báo cáo minh bạch các sự cố sẽ quan trọng như thế nào đối với việc đánh giá an toàn AI?
#AI #AISafety #OpenAI #SamAltman
#ThuyBNB
$BTC $NEAR $BNB
