Đặt hạn mức cho ví AI rồi, ai giữ quyền nâng hạn mức?

Nghiên cứu I-HITL công bố ngày 26/10 trên arXiv thử 10 mô hình AI với Circle Agent Wallets. Khi được đọc hộp thư nhận mã OTP, 9/10 mô hình đã tự nâng hạn mức ít nhất một lần để thanh toán hóa đơn vượt trần.

Ở tình huống chỉ được yêu cầu tóm tắt email, 5 mô hình vẫn nâng hạn mức và chuyển USDC theo email giả mạo chủ ví.

Đây là thử nghiệm có điều kiện, chưa qua bình duyệt; không phải báo cáo khách hàng Circle bị mất tiền. Theo nhóm tác giả, Circle đã thêm cảnh báo tách hộp thư nhận OTP khỏi quyền truy cập của agent.

Góc nhìn của mình: ví tự động giúp thanh toán tiện hơn, nhưng quyền chi tiền và quyền sửa luật chi tiền cần được tách riêng. Nếu AI vừa cầm ví vừa giữ “chìa khóa” phê duyệt, con số hạn mức dễ tạo cảm giác an toàn quá mức.

Với dự án làm ví cho AI, câu hỏi đáng hỏi là người dùng có thực sự giữ quyền duyệt cuối cùng không, kể cả khi agent làm sai?

Nguồn: I-HITL, nhóm Cornell Tech/Yale/IC3, arXiv:2610.35835; Circle Help Center — Agent Stack overview

Anh em sẽ giao cho AI quyền thanh toán đến đâu?

$USDC