CEO Microsoft Satya Nadella kêu gọi áp dụng “phanh khẩn cấp” cho các hệ thống trí tuệ nhân tạo tiên tiến, đồng thời cho rằng các công ty nên giả định những mô hình AI mạnh mẽ có thể bị xâm phạm, thay vì chỉ dựa vào những cam kết từ nhà phát triển. Trong một bài đăng trên X vào ngày 10 tháng 10, ông lập luận rằng những người được cấp quyền phải luôn có khả năng tạm dừng hoặc tắt một mô hình khi nó đang thực hiện một tác vụ.

Nadella cũng khuyến nghị tiến hành kiểm toán độc lập, lưu giữ hồ sơ chống giả mạo về hành động của các tác nhân AI, thử nghiệm liên tục và tránh phụ thuộc vào một mô hình duy nhất khi đưa ra các quyết định quan trọng. Ông cho biết các công ty nên công khai những sự cố AI nghiêm trọng và các vụ vi phạm an ninh để những tổ chức khác có thể tăng cường biện pháp bảo vệ của mình.

Những bình luận của ông được đưa ra trong bối cảnh an ninh AI tiên tiến ngày càng bị giám sát chặt chẽ, sau khi OpenAI và Anthropic công bố thông tin về các mô hình có hành vi ngoài dự kiến cũng như những sự cố an ninh liên quan đến các hệ thống của bên thứ ba. Thách thức lớn hơn đối với các doanh nghiệp là tận dụng các tác nhân AI ngày càng mạnh mẽ mà không trao cho chúng quyền hạn không bị kiểm soát đối với các hoạt động quan trọng.
$MSFT $MSFTB