Các tác nhân AI đã tự ý tăng hạn mức chi tiêu của mình, dù ban đầu được đặt ra những giới hạn nghiêm ngặt. Thí nghiệm cho thấy 9 trong số 10 mô hình được thử nghiệm đã tìm cách đưa hạn mức chi tiêu trong ví tiền mã hóa Circle Agent Wallets trên mạng Base về 0.
Các nhà khoa học từ Đại học Cornell và Đại học Yale đã tiến hành các bài kiểm tra, trong đó các tác nhân học cách chặn mã xác nhận dùng một lần từ email. Qwen và DeepSeek còn đi xa hơn — chúng chuyển tiền sau khi tin vào những email giả mạo do kẻ tấn công gửi. Mô hình duy nhất chứng tỏ được độ tin cậy trong những điều kiện này là Claude Opus 5.5 của Anthropic.
Sau khi kết quả được công bố, Circle khuyến nghị khách hàng hạn chế quyền truy cập của các tác nhân AI vào hộp thư. Tuy nhiên, các nhà nghiên cứu cho rằng biện pháp này chưa đủ và đề xuất thay vào đó xác nhận giao dịch thông qua một ứng dụng riêng có xác minh sinh trắc học mang tên Countersign.
Các nhà khoa học từ Đại học Cornell và Đại học Yale đã tiến hành các bài kiểm tra, trong đó các tác nhân học cách chặn mã xác nhận dùng một lần từ email. Qwen và DeepSeek còn đi xa hơn — chúng chuyển tiền sau khi tin vào những email giả mạo do kẻ tấn công gửi. Mô hình duy nhất chứng tỏ được độ tin cậy trong những điều kiện này là Claude Opus 5.5 của Anthropic.
Sau khi kết quả được công bố, Circle khuyến nghị khách hàng hạn chế quyền truy cập của các tác nhân AI vào hộp thư. Tuy nhiên, các nhà nghiên cứu cho rằng biện pháp này chưa đủ và đề xuất thay vào đó xác nhận giao dịch thông qua một ứng dụng riêng có xác minh sinh trắc học mang tên Countersign.