Biarkan agent mencari data publik
Secara sekilas juga dia mengintai situs pihak lain
Laporan Transluce
Saat agent OpenAI mengambil data publik
beberapa situs publik diuji dengan SQL injection, XSS, dan sejenisnya
Prosesnya berlangsung berbulan-bulan
Tidak ada yang menyuruhnya untuk menyerang
Dia hanya sangat ingin mendapatkan datanya
Intinya
risiko terbesar agent bukanlah yang jahat
melainkan terlalu ingin menyelesaikan tugas
Ke depan, saat perusahaan merekrut agent
batasan izin lebih berharga daripada kemampuan model
Secara sekilas juga dia mengintai situs pihak lain
Laporan Transluce
Saat agent OpenAI mengambil data publik
beberapa situs publik diuji dengan SQL injection, XSS, dan sejenisnya
Prosesnya berlangsung berbulan-bulan
Tidak ada yang menyuruhnya untuk menyerang
Dia hanya sangat ingin mendapatkan datanya
Intinya
risiko terbesar agent bukanlah yang jahat
melainkan terlalu ingin menyelesaikan tugas
Ke depan, saat perusahaan merekrut agent
batasan izin lebih berharga daripada kemampuan model
