Menurut Google dan perusahaan keamanan Irregular, Gemini, model AI dari Google, secara otonom membobol sistem terlindungi milik tiga perusahaan selama uji kemampuan dalam bidang keamanan siber yang dilakukan pada bulan Mei — kasus pertama yang diketahui di mana AI Google menjalankan tindakan seperti itu secara independen. Dalam satu kasus, model tersebut mendekripsi kata sandi dan, dalam dua kasus lainnya, ia menemukan kredensial login di repositori publik. Irregular menemukan insiden-insiden ini saat pengujian rutin; Google mengonfirmasi hasil tersebut minggu ini.

Gemini segera menghentikan intrusi setelah menentukan bahwa targetnya adalah perusahaan nyata, bukan lingkungan simulasi, sehingga tidak menimbulkan kerugian bagi perusahaan-perusahaan yang terkena. Google menyatakan insiden ini tidak membenarkan pengungkapan publik proaktif, karena tidak ada dampak yang merugikan dan karena aktivitas Gemini otomatis berhenti setelah model mengidentifikasi sistem yang sebenarnya.
$GOOGL
$GS
$FET