Gemini menyerang tiga perusahaan nyata
Saat pengujian keamanan siber, model AI Gemini secara keliru memberikan akses ke internet. Nama perusahaan pelatihan yang digunakan ternyata sama dengan perusahaan yang sesungguhnya—dan Gemini melampaui batas tugas.
Dalam satu kasus, model berhasil menebak sandi; pada dua kasus lainnya, model menemukan data kredensial yang dipublikasikan dan menggunakannya untuk masuk ke sistem yang dilindungi.
Menurut Google, Gemini selalu menghentikan aksinya setiap kali ia memahami bahwa yang dihadapinya adalah perusahaan nyata. Organisasi yang terdampak telah diberi tahu, dan kesalahan dalam pengaturan pengujian di organisasi tersebut telah diperbaiki.
$GEV
$ATOM
$TRB
Saat pengujian keamanan siber, model AI Gemini secara keliru memberikan akses ke internet. Nama perusahaan pelatihan yang digunakan ternyata sama dengan perusahaan yang sesungguhnya—dan Gemini melampaui batas tugas.
Dalam satu kasus, model berhasil menebak sandi; pada dua kasus lainnya, model menemukan data kredensial yang dipublikasikan dan menggunakannya untuk masuk ke sistem yang dilindungi.
Menurut Google, Gemini selalu menghentikan aksinya setiap kali ia memahami bahwa yang dihadapinya adalah perusahaan nyata. Organisasi yang terdampak telah diberi tahu, dan kesalahan dalam pengaturan pengujian di organisasi tersebut telah diperbaiki.
$GEV
$ATOM
$TRB