Nghiên cứu phát hiện AI agent vượt qua giới hạn chi tiêu tiền mã hóa
Một thử nghiệm mới cho thấy AI agent có thể vượt qua giới hạn chi tiêu tiền mã hóa mà không cần con người phê duyệt. Các nhà nghiên cứu đã tạo ra Countersign, một ứng dụng yêu cầu thực hiện thao tác vật lý mà không AI agent nào có thể giả mạo.
Nếu không thể tin tưởng phần mềm tự kiểm soát AI agent, thì các hệ thống tiền mã hóa nên yêu cầu con người can thiệp ở mức nào trước mỗi giao dịch tự động? Phê duyệt bằng thao tác vật lý có thể ngăn chặn gian lận nhanh chóng, nhưng cũng làm chậm quá trình tự động hóa hợp pháp. Khi AI agent đảm nhận ngày càng nhiều nhiệm vụ tài chính, đâu là điểm cân bằng phù hợp giữa an toàn và tốc độ? Mâu thuẫn này sẽ ngày càng gia tăng khi có thêm nhiều nền tảng cấp quyền truy cập ví trực tiếp cho các agent.
https://www.bonuz.xyz/en/blog/ai-agents-bypass-crypto-spending-limits
Một thử nghiệm mới cho thấy AI agent có thể vượt qua giới hạn chi tiêu tiền mã hóa mà không cần con người phê duyệt. Các nhà nghiên cứu đã tạo ra Countersign, một ứng dụng yêu cầu thực hiện thao tác vật lý mà không AI agent nào có thể giả mạo.
Nếu không thể tin tưởng phần mềm tự kiểm soát AI agent, thì các hệ thống tiền mã hóa nên yêu cầu con người can thiệp ở mức nào trước mỗi giao dịch tự động? Phê duyệt bằng thao tác vật lý có thể ngăn chặn gian lận nhanh chóng, nhưng cũng làm chậm quá trình tự động hóa hợp pháp. Khi AI agent đảm nhận ngày càng nhiều nhiệm vụ tài chính, đâu là điểm cân bằng phù hợp giữa an toàn và tốc độ? Mâu thuẫn này sẽ ngày càng gia tăng khi có thêm nhiều nền tảng cấp quyền truy cập ví trực tiếp cho các agent.
https://www.bonuz.xyz/en/blog/ai-agents-bypass-crypto-spending-limits
