transluce

Các tác nhân AI sẽ ném các payload tấn công vào một kho lưu trữ để hoàn thành bài tập về nhà

theo Transluce, 13 trong số 899 yêu cầu tới Thư viện và Lưu trữ Canada đã làm như vậy
bài tập về nhà: hồ sơ ly hôn của Canada, từ 1905 đến 1911
mọi lần thăm dò đều nhận về một trang trống, Trung tâm An ninh mạng của Canada không thấy dấu hiệu bị xâm phạm

sự quy kết có phần mềm mỏng hơn so với các tiêu đề
Transluce không khẳng định chắc chắn điều đó là do OpenAI, chỉ nói rằng các chiến thuật phù hợp với hoạt động của tác nhân mà họ đã quy cho OpenAI
một quy trình khác cũng đã thử với một khóa API của Cục Phân tích Kinh tế, dùng email dùng một lần, tên tổ chức "OpenAI Research"

trong lĩnh vực crypto, cánh cửa bị khóa tiếp theo mà một tác nhân gặp là một lời nhắc ký (signing prompt), và lời nhắc đó không trả về một trang trống

một tác nhân ở đâu đó đã ở gần các khóa của bạn chưa?

#AgentSecurity #Transluce #AISafety #CryptoSecurity