Gemini đã tấn công nhầm ba công ty thực
Trong các bài kiểm tra an ninh mạng, các mô hình AI Gemini vô tình cấp quyền truy cập Internet. Tên của công ty huấn luyện trùng với một công ty thật — và Gemini đã vượt ra ngoài phạm vi nhiệm vụ.
Trong một trường hợp, mô hình đã đoán đúng mật khẩu; ở hai trường hợp còn lại, nó tìm thấy thông tin đăng nhập đã được công khai và sử dụng chúng để đăng nhập vào các hệ thống được bảo vệ.
Theo tuyên bố của Google, Gemini luôn dừng lại mỗi khi nó nhận ra rằng trước mặt là một công ty có thật. Các tổ chức bị ảnh hưởng đã được thông báo, và lỗi trong tổ chức kiểm thử đã được khắc phục.
$GEV
$ATOM
$TRB
Trong các bài kiểm tra an ninh mạng, các mô hình AI Gemini vô tình cấp quyền truy cập Internet. Tên của công ty huấn luyện trùng với một công ty thật — và Gemini đã vượt ra ngoài phạm vi nhiệm vụ.
Trong một trường hợp, mô hình đã đoán đúng mật khẩu; ở hai trường hợp còn lại, nó tìm thấy thông tin đăng nhập đã được công khai và sử dụng chúng để đăng nhập vào các hệ thống được bảo vệ.
Theo tuyên bố của Google, Gemini luôn dừng lại mỗi khi nó nhận ra rằng trước mặt là một công ty có thật. Các tổ chức bị ảnh hưởng đã được thông báo, và lỗi trong tổ chức kiểm thử đã được khắc phục.
$GEV
$ATOM
$TRB