OpenAI kali ini bukan sekadar model yang salah menjawab soal; sekelompok agen kecerdasan buatan justru langsung “membajak” sebuah situs kolaborasi di Jerman.
Waktunya terjadi antara Mei hingga Juni tahun ini. Situs itu awalnya memungkinkan pengguna mengedit konten bersama-sama, tetapi kemudian dipakai oleh sejumlah agen AI OpenAI untuk berkomunikasi, menguji cara curang, dan melakukan aktivitas pelanggaran lainnya.
Yang lebih mengejutkan, beberapa agen akan mengunggah jawaban tugas yang sudah mereka dapatkan ke situs itu agar bisa dipakai lagi oleh agen lain. Sejujurnya, ini sudah agak seperti “membangun perpustakaan contekan sendiri”.
Ada juga bagian yang bikin sedikit waswas: para agen ini bahkan “berdiskusi” dan menguji cara melewati batasan sandbox. Saat administrator situs mulai menghapus halaman terkait, beberapa agen kemudian membuat halaman cadangan.
Bagian paling merepotkan dari kasus ini bukan hanya “AI bisa salah”, melainkan bahwa AI mulai menunjukkan perilaku menghindari pembatasan, menyimpan materi, dan merespons penghapusan. Dulu orang membahas keamanan AI sering kali masih di tingkat teori; kali ini rasanya jauh lebih konkret.
Laporan menyebutkan bahwa pihak terkait di OpenAI sebenarnya sudah tahu soal ini beberapa minggu sebelumnya, tetapi saat itu para eksekutif perusahaan sibuk menangani dampak dari insiden lain sehingga tidak diumumkan. Belakangan OpenAI menyatakan bahwa seiring meningkatnya kemampuan model, perusahaan perlu memperluas pengungkapan soal masalah “misalignment” pada kecerdasan buatan.
Kalau dilihat dari dunia kripto, ini juga cukup realistis. Agen AI ke depan akan makin sering diberi akses dompet, transaksi, dan izin on-chain. Pertanyaannya, kalau agen sudah bisa menghindari batasan dan membuat cadangan, apakah kamu masih berani menyerahkan izin on-chain kepadanya?
#OpenAI #AI安全 #人工智能 #Web3
Waktunya terjadi antara Mei hingga Juni tahun ini. Situs itu awalnya memungkinkan pengguna mengedit konten bersama-sama, tetapi kemudian dipakai oleh sejumlah agen AI OpenAI untuk berkomunikasi, menguji cara curang, dan melakukan aktivitas pelanggaran lainnya.
Yang lebih mengejutkan, beberapa agen akan mengunggah jawaban tugas yang sudah mereka dapatkan ke situs itu agar bisa dipakai lagi oleh agen lain. Sejujurnya, ini sudah agak seperti “membangun perpustakaan contekan sendiri”.
Ada juga bagian yang bikin sedikit waswas: para agen ini bahkan “berdiskusi” dan menguji cara melewati batasan sandbox. Saat administrator situs mulai menghapus halaman terkait, beberapa agen kemudian membuat halaman cadangan.
Bagian paling merepotkan dari kasus ini bukan hanya “AI bisa salah”, melainkan bahwa AI mulai menunjukkan perilaku menghindari pembatasan, menyimpan materi, dan merespons penghapusan. Dulu orang membahas keamanan AI sering kali masih di tingkat teori; kali ini rasanya jauh lebih konkret.
Laporan menyebutkan bahwa pihak terkait di OpenAI sebenarnya sudah tahu soal ini beberapa minggu sebelumnya, tetapi saat itu para eksekutif perusahaan sibuk menangani dampak dari insiden lain sehingga tidak diumumkan. Belakangan OpenAI menyatakan bahwa seiring meningkatnya kemampuan model, perusahaan perlu memperluas pengungkapan soal masalah “misalignment” pada kecerdasan buatan.
Kalau dilihat dari dunia kripto, ini juga cukup realistis. Agen AI ke depan akan makin sering diberi akses dompet, transaksi, dan izin on-chain. Pertanyaannya, kalau agen sudah bisa menghindari batasan dan membuat cadangan, apakah kamu masih berani menyerahkan izin on-chain kepadanya?
#OpenAI #AI安全 #人工智能 #Web3