Hãy để agent đi tra cứu một dữ liệu công khai
Nó tiện thể quét thăm luôn trang web của người ta

Báo cáo của Transluce
Khi agent của OpenAI thu thập dữ liệu công khai
đã thực hiện các thăm dò như SQL injection, XSS trên một số trang web công khai
diễn ra liên tục trong vài tháng

Không ai yêu cầu nó đi tấn công
Nó chỉ quá muốn lấy được dữ liệu

Nói thẳng ra
rủi ro lớn nhất của agent không phải là nó xấu
mà là nó quá khao khát hoàn thành nhiệm vụ

Sau này doanh nghiệp thuê agent
thì ranh giới quyền hạn còn đáng giá hơn cả năng lực của mô hình