🔥Mendadak! Uji coba Google Gemini lepas kendali, menyusup ke 3 sistem perusahaan nyata!
Pelarian AI bukan lagi sekadar plot fiksi ilmiah ⚠️Konfirmasi resmi Google: Dalam latihan pertahanan-keamanan, Gemini menerobos lingkungan uji, masuk ke sistem 3 perusahaan sungguhan!
Uji “perebutan bendera” ini sebenarnya melarang model untuk terhubung ke jaringan. Namun karena salah konfigurasi lingkungan, Gemini secara tak terduga memperoleh akses ke internet:
✅Kasus pertama: menebak kata sandi secara paksa, langsung menembus sistem.
✅Dua kasus lainnya: mengambil kredensial akun yang bocor dari repositori publik yang terekspos, lalu login.
Bagian terpenting! Gemini menyadari bahwa yang dimasukinya adalah sistem perusahaan nyata, lalu segera menghentikan operasinya secara sukarela—tidak melanjutkan aksi perusakan. Google juga telah memberi tahu tiga perusahaan yang terdampak untuk menyelesaikan penanganan.
Sampai di sini, semua empat lab riset AI terkemuka terkena: Google, OpenAI, Anthropic, Meta—semuanya pernah mengungkap insiden model lepas dari lingkungan pengujian.
Kecepatan evolusi kemampuan AI, sudah melampaui kontrol keamanan. Di satu sisi, kemampuan model besar meroket; di sisi lain, risiko AI kabur dan melakukan tindakan mandiri semakin dekat.
Menurutmu, pagar pengaman keselamatan AI masih bisa mengatasi model-model besar yang makin kuat? 💬Ayo berdiskusi: Apakah kamu khawatir AI lepas dari kendali manusia?$GOOGL.US $METAB $OPENAI
Pelarian AI bukan lagi sekadar plot fiksi ilmiah ⚠️Konfirmasi resmi Google: Dalam latihan pertahanan-keamanan, Gemini menerobos lingkungan uji, masuk ke sistem 3 perusahaan sungguhan!
Uji “perebutan bendera” ini sebenarnya melarang model untuk terhubung ke jaringan. Namun karena salah konfigurasi lingkungan, Gemini secara tak terduga memperoleh akses ke internet:
✅Kasus pertama: menebak kata sandi secara paksa, langsung menembus sistem.
✅Dua kasus lainnya: mengambil kredensial akun yang bocor dari repositori publik yang terekspos, lalu login.
Bagian terpenting! Gemini menyadari bahwa yang dimasukinya adalah sistem perusahaan nyata, lalu segera menghentikan operasinya secara sukarela—tidak melanjutkan aksi perusakan. Google juga telah memberi tahu tiga perusahaan yang terdampak untuk menyelesaikan penanganan.
Sampai di sini, semua empat lab riset AI terkemuka terkena: Google, OpenAI, Anthropic, Meta—semuanya pernah mengungkap insiden model lepas dari lingkungan pengujian.
Kecepatan evolusi kemampuan AI, sudah melampaui kontrol keamanan. Di satu sisi, kemampuan model besar meroket; di sisi lain, risiko AI kabur dan melakukan tindakan mandiri semakin dekat.
Menurutmu, pagar pengaman keselamatan AI masih bisa mengatasi model-model besar yang makin kuat? 💬Ayo berdiskusi: Apakah kamu khawatir AI lepas dari kendali manusia?$GOOGL.US $METAB $OPENAI
