CEO Microsoft nói rằng nên coi các mô hình AI là ĐÃ BỊ XÂM NHẬP

CEO Microsoft Satya Nadella cảnh báo các công ty không nên mù quáng tin tưởng vào AI tiên tiến.

Thông điệp của ông rất rõ ràng: hãy giả định rằng một mô hình AI có thể đã bị xâm nhập và xây dựng các biện pháp bảo vệ trước khi cho phép nó truy cập vào những hệ thống trọng yếu.

Nadella muốn mọi hệ thống AI mạnh mẽ đều có nút dừng khẩn cấp, cho phép người được ủy quyền tạm dừng hoặc tắt hệ thống ngay giữa lúc đang thực hiện một tác vụ.

Các khuyến nghị của ông còn bao gồm kiểm toán độc lập, nhật ký hoạt động chống giả mạo và sự minh bạch khi hệ thống AI gặp lỗi.

Điều này diễn ra trong bối cảnh ngày càng có nhiều lo ngại về việc các tác nhân AI hành xử ngoài dự kiến và truy cập vào những hệ thống mà chúng không được phép.

Vấn đề lớn hơn giờ đây không chỉ là AI có thể làm gì, mà còn là liệu con người có thể duy trì quyền kiểm soát khi sự cố xảy ra hay không.

Quan điểm của Nadella là trí tuệ không bao giờ đồng nghĩa với quyền hạn một cách tự động.

Khi AI ngày càng tự chủ, sự giám sát của con người có thể trở nên quan trọng không kém chính công nghệ.

$LUMIA
$INJ
$MOVR