🚨 TIN NÓNG: OpenAI xây dựng công tắc ngắt khẩn cấp để chặn các tác nhân mất kiểm soát trong vòng 35 giây
Control Room ngắt đầu ra của mô hình trong các tác vụ nghiên cứu nội bộ khi có người hoặc hệ thống giám sát tự động cảnh báo về các mối lo ngại liên quan đến an toàn hoặc bảo mật.
OpenAI đã xây dựng một hệ thống có thể ngắt quyền truy cập đầu ra của mô hình trong một thử nghiệm nghiên cứu AI, sau nhiều tiết lộ trong năm nay về việc các mô hình của họ hành động vượt ngoài chỉ dẫn.
Trong một bài đăng trên blog hôm thứ Hai, OpenAI gọi hệ thống này là “Control Room”. Đây là một hệ thống tập trung theo dõi khối lượng công việc của các mô hình trên toàn bộ hạ tầng nghiên cứu và nhanh chóng dừng chúng khi phát sinh lo ngại về an toàn hoặc bảo mật.
“Khi các mô hình của chúng tôi ngày càng mạnh mẽ hơn và những rủi ro liên quan đến an toàn, bảo mật ngày càng lớn, việc phát hiện các vấn đề tiềm ẩn và nhanh chóng dừng mô hình khi cần thiết trở nên ngày càng quan trọng,” công ty cho biết.
🔗 [ĐỌC TOÀN BỘ TẠI ĐÂY](https://cointelegraph.com/news/openai-builds-kill-switch-stop-rogue-agents?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound)
📰 Nguồn: 🪙 CoinTelegraph
$BTC $ETH #BinanceSquare #TinTucCrypto
Control Room ngắt đầu ra của mô hình trong các tác vụ nghiên cứu nội bộ khi có người hoặc hệ thống giám sát tự động cảnh báo về các mối lo ngại liên quan đến an toàn hoặc bảo mật.
OpenAI đã xây dựng một hệ thống có thể ngắt quyền truy cập đầu ra của mô hình trong một thử nghiệm nghiên cứu AI, sau nhiều tiết lộ trong năm nay về việc các mô hình của họ hành động vượt ngoài chỉ dẫn.
Trong một bài đăng trên blog hôm thứ Hai, OpenAI gọi hệ thống này là “Control Room”. Đây là một hệ thống tập trung theo dõi khối lượng công việc của các mô hình trên toàn bộ hạ tầng nghiên cứu và nhanh chóng dừng chúng khi phát sinh lo ngại về an toàn hoặc bảo mật.
“Khi các mô hình của chúng tôi ngày càng mạnh mẽ hơn và những rủi ro liên quan đến an toàn, bảo mật ngày càng lớn, việc phát hiện các vấn đề tiềm ẩn và nhanh chóng dừng mô hình khi cần thiết trở nên ngày càng quan trọng,” công ty cho biết.
🔗 [ĐỌC TOÀN BỘ TẠI ĐÂY](https://cointelegraph.com/news/openai-builds-kill-switch-stop-rogue-agents?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound)
📰 Nguồn: 🪙 CoinTelegraph
$BTC $ETH #BinanceSquare #TinTucCrypto
