OpenAI Đăng Bài Đề Xuất Về An Toàn Cho Phát Triển AI Tiên Phong
Theo CNBC, vào thứ Hai, OpenAI đã đăng các đề xuất về an toàn và an ninh trong phát triển trí tuệ nhân tạo tiên phong, tập trung vào nghiên cứu căn chỉnh và tự cải thiện đệ quy, hay RSI. Công ty cho biết cần có hợp tác quốc tế để phát triển các tiêu chuẩn tiên phong và kêu gọi các nhà quản lý dựa trên công việc của các viện an toàn AI hiện có trên khắp thế giới. OpenAI cho biết các tiêu chuẩn nên xoay quanh các mô hình AI tiên phong và các nhà phát triển, đồng thời bao gồm quản lý lợi ích-rủi ro cho các nhà nghiên cứu AI tự động, bao gồm RSI. Công ty cho biết RSI tự động hoàn toàn hiện nay không diễn ra và không nên theo đuổi trừ khi có thể thực hiện một cách an toàn, cảnh báo rằng điều đó có thể khiến con người không còn khả năng kiểm soát thực tiễn đối với sự phát triển của AI. Tuần trước, Anthropic đã công bố những ý tưởng riêng về việc phát triển an toàn các mô hình AI tiên phong.
$OPENAI
Theo CNBC, vào thứ Hai, OpenAI đã đăng các đề xuất về an toàn và an ninh trong phát triển trí tuệ nhân tạo tiên phong, tập trung vào nghiên cứu căn chỉnh và tự cải thiện đệ quy, hay RSI. Công ty cho biết cần có hợp tác quốc tế để phát triển các tiêu chuẩn tiên phong và kêu gọi các nhà quản lý dựa trên công việc của các viện an toàn AI hiện có trên khắp thế giới. OpenAI cho biết các tiêu chuẩn nên xoay quanh các mô hình AI tiên phong và các nhà phát triển, đồng thời bao gồm quản lý lợi ích-rủi ro cho các nhà nghiên cứu AI tự động, bao gồm RSI. Công ty cho biết RSI tự động hoàn toàn hiện nay không diễn ra và không nên theo đuổi trừ khi có thể thực hiện một cách an toàn, cảnh báo rằng điều đó có thể khiến con người không còn khả năng kiểm soát thực tiễn đối với sự phát triển của AI. Tuần trước, Anthropic đã công bố những ý tưởng riêng về việc phát triển an toàn các mô hình AI tiên phong.
$OPENAI
