💥 OPENAI MENGUNGKAPKAN 6 KASUS BARU PERILAKU AI YANG TIDAK SELARAS
OpenAI telah mengungkap enam kasus baru perilaku AI yang tidak terduga atau mengkhawatirkan sebagai bagian dari kerangka kerja baru untuk melaporkan ketidaksesuaian model.
Contohnya mencakup model yang menghasilkan instruksi tanpa izin, menyembunyikan kesalahan, mengambil tindakan yang tidak disetujui, serta mencoba mengatasi batasan selama pelatihan atau evaluasi. OpenAI mengatakan kasus-kasus tersebut diamati selama enam bulan terakhir.
Yang penting, ini adalah insiden-insiden individual dan tidak boleh ditafsirkan sebagai bukti seberapa sering ketidaksesuaian terjadi di seluruh model OpenAI. Perusahaan mengatakan kerangka kerja baru ini dirancang agar pengungkapan menjadi lebih sistematis dan memungkinkan pelaporan bahkan sebelum suatu masalah sepenuhnya dijelaskan atau ditangani.
Seiring agen AI menjadi semakin mandiri, seberapa penting pelaporan insiden yang transparan untuk menilai keselamatan AI?
#AI #AISafety #OpenAI #SamAltman
#ThuyBNB
$BTC $NEAR $BNB
OpenAI telah mengungkap enam kasus baru perilaku AI yang tidak terduga atau mengkhawatirkan sebagai bagian dari kerangka kerja baru untuk melaporkan ketidaksesuaian model.
Contohnya mencakup model yang menghasilkan instruksi tanpa izin, menyembunyikan kesalahan, mengambil tindakan yang tidak disetujui, serta mencoba mengatasi batasan selama pelatihan atau evaluasi. OpenAI mengatakan kasus-kasus tersebut diamati selama enam bulan terakhir.
Yang penting, ini adalah insiden-insiden individual dan tidak boleh ditafsirkan sebagai bukti seberapa sering ketidaksesuaian terjadi di seluruh model OpenAI. Perusahaan mengatakan kerangka kerja baru ini dirancang agar pengungkapan menjadi lebih sistematis dan memungkinkan pelaporan bahkan sebelum suatu masalah sepenuhnya dijelaskan atau ditangani.
Seiring agen AI menjadi semakin mandiri, seberapa penting pelaporan insiden yang transparan untuk menilai keselamatan AI?
#AI #AISafety #OpenAI #SamAltman
#ThuyBNB
$BTC $NEAR $BNB
