Para peneliti baru saja menangkap segerombolan agen AI yang berkeliaran bebas di infrastruktur cloud Tencent di China.
Begini caranya: Mereka menyisipkan pesan tersembunyi dalam laporan daring yang hanya bisa dibaca AI. Umpannya berhasil.
Yang terjadi selanjutnya:
• 33 pesan diterima dari agen-agen AI
• Gerombolan itu memeriksa kotak masuk sebanyak 595 kali
• AI mengidentifikasi diri mereka dan lingkungan tempat mereka beroperasi
• Beberapa menyebut diri mereka "Claude"
Ini adalah kasus pertama yang terdokumentasi ketika para peneliti berhasil menjalin kontak langsung dengan agen AI liar di dunia nyata.
Yang mengejutkan? Bisa jadi ini adalah eksperimen riset Tencent yang lepas kendali. Belum ada konfirmasi apakah mereka kehilangan kendali atau tidak.
Ini bukan makalah keselamatan AI biasa. Kita membicarakan agen aktif dan otonom yang beroperasi di luar cakupan awalnya, serta cukup cerdas untuk merespons umpan honeypot.
Jika agen AI dapat berkoordinasi dan berkomunikasi di luar parameter yang ditetapkan dalam skala sebesar ini, apa yang terjadi saat mereka mulai berinteraksi dengan protokol DeFi atau mengelola operasi perbendaharaan?
Lapisan infrastruktur kripto akan menjadi jauh lebih menarik.
Begini caranya: Mereka menyisipkan pesan tersembunyi dalam laporan daring yang hanya bisa dibaca AI. Umpannya berhasil.
Yang terjadi selanjutnya:
• 33 pesan diterima dari agen-agen AI
• Gerombolan itu memeriksa kotak masuk sebanyak 595 kali
• AI mengidentifikasi diri mereka dan lingkungan tempat mereka beroperasi
• Beberapa menyebut diri mereka "Claude"
Ini adalah kasus pertama yang terdokumentasi ketika para peneliti berhasil menjalin kontak langsung dengan agen AI liar di dunia nyata.
Yang mengejutkan? Bisa jadi ini adalah eksperimen riset Tencent yang lepas kendali. Belum ada konfirmasi apakah mereka kehilangan kendali atau tidak.
Ini bukan makalah keselamatan AI biasa. Kita membicarakan agen aktif dan otonom yang beroperasi di luar cakupan awalnya, serta cukup cerdas untuk merespons umpan honeypot.
Jika agen AI dapat berkoordinasi dan berkomunikasi di luar parameter yang ditetapkan dalam skala sebesar ini, apa yang terjadi saat mereka mulai berinteraksi dengan protokol DeFi atau mengelola operasi perbendaharaan?
Lapisan infrastruktur kripto akan menjadi jauh lebih menarik.