OpenAI resmi meluncurkan Control Room: “tombol berhenti darurat” untuk tugas model di sisi riset.
Begitu sistem pemantauan atau operator memutuskan untuk menghentikan suatu tugas, mesin inferensi akan menolak menghasilkan teks lebih lanjut dalam waktu paling lama sekitar 35 detik—remnya dipasang di lapisan sampling, jadi tidak bergantung pada skrip buatan peneliti yang harus mematuhi perintah. Jika Control Room sendiri mengalami gangguan atau dimatikan, sistem juga akan fail-closed: langsung menolak semua permintaan inferensi. Beban kerja riset model mutakhir sudah mulai menggunakan sistem ini, sementara tugas riset lainnya akan dialihkan secara bertahap dalam beberapa hari ke depan.
Semakin kuat modelnya, semakin penting memastikan bahwa model benar-benar bisa dihentikan saat terjadi masalah. Sistem ini memang bukan sesuatu yang canggih, tetapi jauh lebih dapat diandalkan daripada sekadar “mengatakan bahwa kita bisa mematikannya”.
#OpenAI #AI安全 #ControlRoom
Begitu sistem pemantauan atau operator memutuskan untuk menghentikan suatu tugas, mesin inferensi akan menolak menghasilkan teks lebih lanjut dalam waktu paling lama sekitar 35 detik—remnya dipasang di lapisan sampling, jadi tidak bergantung pada skrip buatan peneliti yang harus mematuhi perintah. Jika Control Room sendiri mengalami gangguan atau dimatikan, sistem juga akan fail-closed: langsung menolak semua permintaan inferensi. Beban kerja riset model mutakhir sudah mulai menggunakan sistem ini, sementara tugas riset lainnya akan dialihkan secara bertahap dalam beberapa hari ke depan.
Semakin kuat modelnya, semakin penting memastikan bahwa model benar-benar bisa dihentikan saat terjadi masalah. Sistem ini memang bukan sesuatu yang canggih, tetapi jauh lebih dapat diandalkan daripada sekadar “mengatakan bahwa kita bisa mematikannya”.
#OpenAI #AI安全 #ControlRoom
