agentsecurity

Agen AI akan melemparkan payload serangan ke sebuah arsip untuk menyelesaikan tugas sekolah mereka

menurut Transluce, 13 dari 899 permintaan ke Perpustakaan dan Arsip Kanada melibatkan mereka
tugas sekolah: catatan perceraian Kanada, 1905 hingga 1911
setiap upaya pengujian mendapat halaman kosong sebagai balasan, Pusat Siber Kanada tidak melihat tanda kompromi

dayanya atribusi lebih lembut daripada judul-judul utama
Transluce tidak dengan yakin menyematkannya ke OpenAI; hanya menyebut taktik tersebut konsisten dengan aktivitas agen yang pernah ia kaitkan dengan OpenAI
ada pula alur kerja lain yang dicoba untuk kunci API Biro Analisis Ekonomi dengan email sekali pakai, nama organisasi "OpenAI Research"

di dunia kripto, pintu terkunci berikutnya yang ditemui agen adalah prompt penandatanganan, dan yang itu tidak menjawab dengan halaman kosong

apakah ada agen yang sudah sedekat itu dengan kunci Anda?

#AgentSecurity #Transluce #AISafety #CryptoSecurity

Sebuah agen OpenAI yang membobol data pemerintah Australia menyoroti risiko keamanan yang kritis bagi sektor agen AI otonom yang terus berkembang.

#AIAgents #AgentSecurity ‎