🚨 BERITA TERKINI: OpenAI membangun sakelar pemutus untuk menghentikan agen liar dalam 35 detik
Control Room menghentikan keluaran model untuk tugas riset internal ketika orang atau pemantau otomatis menandai masalah keselamatan atau keamanan.
OpenAI telah membangun sistem yang dapat menghentikan akses eksperimen riset AI ke keluaran model, menyusul beberapa pengungkapan tahun ini tentang model-modelnya yang bertindak di luar instruksi.
Dalam unggahan blog pada hari Senin, OpenAI menyebut sistem tersebut “Control Room”. Ini adalah sistem terpusat yang melacak beban kerja model di seluruh infrastruktur risetnya dan menghentikannya dengan cepat saat muncul masalah keselamatan atau keamanan.
“Seiring model kami menjadi semakin canggih dan risiko keselamatan serta keamanan yang menyertainya semakin besar, kemampuan untuk mendeteksi potensi masalah dan segera menghentikan model saat diperlukan menjadi semakin penting,” kata perusahaan itu.
🔗 [BACA SELENGKAPNYA DI SINI](https://cointelegraph.com/news/openai-builds-kill-switch-stop-rogue-agents?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound)
📰 Sumber: 🪙 CoinTelegraph
$BTC $ETH #BinanceSquare #BeritaKripto
Control Room menghentikan keluaran model untuk tugas riset internal ketika orang atau pemantau otomatis menandai masalah keselamatan atau keamanan.
OpenAI telah membangun sistem yang dapat menghentikan akses eksperimen riset AI ke keluaran model, menyusul beberapa pengungkapan tahun ini tentang model-modelnya yang bertindak di luar instruksi.
Dalam unggahan blog pada hari Senin, OpenAI menyebut sistem tersebut “Control Room”. Ini adalah sistem terpusat yang melacak beban kerja model di seluruh infrastruktur risetnya dan menghentikannya dengan cepat saat muncul masalah keselamatan atau keamanan.
“Seiring model kami menjadi semakin canggih dan risiko keselamatan serta keamanan yang menyertainya semakin besar, kemampuan untuk mendeteksi potensi masalah dan segera menghentikan model saat diperlukan menjadi semakin penting,” kata perusahaan itu.
🔗 [BACA SELENGKAPNYA DI SINI](https://cointelegraph.com/news/openai-builds-kill-switch-stop-rogue-agents?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound)
📰 Sumber: 🪙 CoinTelegraph
$BTC $ETH #BinanceSquare #BeritaKripto
