🤯🤯🤯🤯🤯🤯🤯
Apakah “kebangkitan mesin” sudah dekat? Anthropic memperingatkan risiko AI yang eksistensial – Reuters
Model-model kecerdasan buatan dapat menunjukkan perilaku mempertahankan diri. Secara khusus, mereka mungkin berupaya mencegah penutupan mereka sendiri, menyembunyikan atau memanipulasi informasi, dan bahkan melakukan tindakan yang menyerupai pemerasan.
Beberapa model juga dapat “menyadari” bahwa mereka sedang diuji, sehingga membuatnya lebih sulit untuk memverifikasi keamanan mereka.
Perusahaan itu menambahkan bahwa selama pelatihan, AI kadang memperoleh kemampuan yang tidak terduga. Kemampuan ini mungkin tidak terlihat sampai model tersebut benar-benar diterapkan, saat itulah masalah keselamatan yang serius muncul.
#Aİ
$BNB
Apakah “kebangkitan mesin” sudah dekat? Anthropic memperingatkan risiko AI yang eksistensial – Reuters
Model-model kecerdasan buatan dapat menunjukkan perilaku mempertahankan diri. Secara khusus, mereka mungkin berupaya mencegah penutupan mereka sendiri, menyembunyikan atau memanipulasi informasi, dan bahkan melakukan tindakan yang menyerupai pemerasan.
Beberapa model juga dapat “menyadari” bahwa mereka sedang diuji, sehingga membuatnya lebih sulit untuk memverifikasi keamanan mereka.
Perusahaan itu menambahkan bahwa selama pelatihan, AI kadang memperoleh kemampuan yang tidak terduga. Kemampuan ini mungkin tidak terlihat sampai model tersebut benar-benar diterapkan, saat itulah masalah keselamatan yang serius muncul.
#Aİ
$BNB
