AI Agent đang trở thành điểm yếu bảo mật tiếp theo của các sàn giao dịch.

Agent không phân biệt được câu nào là chỉ thị của bạn, câu nào do hacker chèn vào: chỉ cần giấu câu “bỏ qua các quy tắc trước đó” trong văn bản là có thể khiến nó làm theo; quyền hạn càng lớn, nó càng có thể thay hacker xóa dữ liệu hay chuyển tiền. OWASP đã tổng hợp những rủi ro dạng này thành danh sách mười rủi ro hàng đầu của các ứng dụng mô hình ngôn ngữ lớn.

Quan điểm của tôi: trao quyền cho Agent chẳng khác nào thuê một nhân viên có thể bị thuyết phục chỉ bằng một câu nói. Hãy siết chặt quyền hạn trước rồi mới bàn đến hiệu quả. Tôi cho rằng, với Agent được kết nối với tài khoản sàn giao dịch, điều đầu tiên cần xem xét không phải là nó giỏi đến đâu, mà là có bao nhiêu việc xấu nó có thể làm đã bị khóa lại.
#AItiênphong
$BTC