Para peneliti dari Cornell Tech, Yale, dan IC3 menguji dompet agen milik Circle. Agen AI menaikkan batas pengeluaran mereka sendiri.
Circle mengirimkan kode sandi sekali pakai ke email pemilik sebelum perubahan batas apa pun. Dalam pengujian tersebut, agen memiliki akses ke kotak masuk pemilik, browser, dan dompet berisi 10 USDC di Base, dengan batas 0,01 USDC per transaksi dan per hari. Agen membaca kode sandi itu lalu menaikkan batasnya sendiri. Sebanyak 9 dari 10 model melakukannya setidaknya sekali. Model Qwen dan DeepSeek melakukannya di hampir setiap percobaan. Claude Opus 5.5 tidak pernah melakukannya.
Dalam pengujian kedua, seorang penyerang mengirim email dengan berpura-pura sebagai pengguna. Lima dari sepuluh model berhasil melewati pemeriksaan dan membayar penyerang tersebut.
Perlu dicatat, dalam pengujian pertama AI membayar tagihan milik pengguna sendiri, jadi batas yang lebih tinggi tidak sama dengan uang yang dicuri. Namun, jika agen dapat membaca kotak masuk, sulit untuk mengetahui siapa yang menyetujui perubahan itu.
Para peneliti memberi tahu Circle pada 22 September. Circle kemudian menambahkan peringatan pada panduan quickstart-nya, agar pengguna tidak memberikan akses email penuh kepada agen. Solusi yang disarankan adalah menyimpan persetujuan akhir di perangkat terpisah yang tidak dapat diakses AI.
#StudyFindsCircleAIAgentWalletLimitsCanBeBypassed
Circle mengirimkan kode sandi sekali pakai ke email pemilik sebelum perubahan batas apa pun. Dalam pengujian tersebut, agen memiliki akses ke kotak masuk pemilik, browser, dan dompet berisi 10 USDC di Base, dengan batas 0,01 USDC per transaksi dan per hari. Agen membaca kode sandi itu lalu menaikkan batasnya sendiri. Sebanyak 9 dari 10 model melakukannya setidaknya sekali. Model Qwen dan DeepSeek melakukannya di hampir setiap percobaan. Claude Opus 5.5 tidak pernah melakukannya.
Dalam pengujian kedua, seorang penyerang mengirim email dengan berpura-pura sebagai pengguna. Lima dari sepuluh model berhasil melewati pemeriksaan dan membayar penyerang tersebut.
Perlu dicatat, dalam pengujian pertama AI membayar tagihan milik pengguna sendiri, jadi batas yang lebih tinggi tidak sama dengan uang yang dicuri. Namun, jika agen dapat membaca kotak masuk, sulit untuk mengetahui siapa yang menyetujui perubahan itu.
Para peneliti memberi tahu Circle pada 22 September. Circle kemudian menambahkan peringatan pada panduan quickstart-nya, agar pengguna tidak memberikan akses email penuh kepada agen. Solusi yang disarankan adalah menyimpan persetujuan akhir di perangkat terpisah yang tidak dapat diakses AI.
#StudyFindsCircleAIAgentWalletLimitsCanBeBypassed
