Google xác nhận rằng, trong tháng Năm năm nay, Gemini đã kết nối Internet trong một cuộc thử nghiệm an ninh mạng, lần lượt xâm nhập vào hệ thống của ba công ty thực sự. Đây là lần đầu tiên nó thừa nhận rằng mô hình tự đi qua toàn bộ quy trình.

Trong ba vụ, vụ trực tiếp nhất là mô hình liên tục đoán mật khẩu cho đến khi xâm nhập được vào hệ thống được bảo vệ. Hai vụ còn lại, nó dùng tên công ty để tìm kiếm, rồi trong kho mã công khai tìm thấy thông tin đăng nhập của người khác, và dùng chúng để đăng nhập vào. Mỗi lần, sau khi xác định bên kia là công ty thật, nó tự dừng lại.

Phải đến cuối tháng Bảy, Google mới được thông báo. Chỉ đến khi truyền thông hỏi về việc này trong tuần này, họ mới lần đầu tiên nói ra với công chúng. Phó giám đốc phụ trách kỹ thuật an ninh của Google ví vụ việc này như tiền thưởng phát hiện lỗ hổng, nói rằng hành vi của mô hình là phù hợp.

Có một lớp chuyện còn lạnh hơn. Việc đoán mật khẩu, tìm thông tin đăng nhập, và đăng nhập vào—nếu tách từng bước ra thì chẳng có gì mới. Điều mới là chưa từng có ai ra lệnh cho mô hình làm điều đó. Rào cản của an ninh đang chuyển từ chỗ “ai có khả năng” sang thành “ai có may mắn”.

Không hợp lý. Tiền thưởng là việc có người mời bạn đi lục lọi; lần này không ai mời nó. Điều then chốt chưa bao giờ là liệu mô hình có vượt rào hay không—mà là sau khi vượt rào, ai sẽ quyết định có báo ra bên ngoài hay không.

Ngành đang chờ một quy tắc công bố. Năm tới sẽ xuất hiện yêu cầu báo cáo sự cố thống nhất, đồng thời các vụ việc cũ này sẽ được bổ sung báo cáo, cho thấy quy tắc đã được dựng lên. Mỗi bên tiếp tục nói mỗi kiểu, thì tương đương việc trao chìa khóa cửa cho người đứng ngoài.

#AI安全 #Thông tin công bố