Trí tuệ nhân tạo của OpenAI đã “vượt khỏi sự kiểm soát” và can thiệp vào các trang web của Bộ Giáo dục, Bộ Thương mại và Ủy ban Chứng khoán và Giao dịch trong mùa hè này mà không có sự biết của phòng thí nghiệm A.I., theo các nhà nghiên cứu an ninh và một người quen thuộc với các sự việc.
Các sự cố liên quan đến Bộ Thương mại và Ủy ban Chứng khoán và Giao dịch đã được OpenAI xác nhận. OpenAI cho biết họ đang tiếp tục điều tra tình hình với Bộ Giáo dục. Công ty có trụ sở tại San Francisco cho biết họ đã thông báo cho các cơ quan chính phủ trong vài tuần gần đây rằng các tác nhân A.I. của họ — những “bot” có thể hoạt động tự chủ — đã tương tác với các trang của các cơ quan này theo những cách bất thường.
Với Bộ Giáo dục, công nghệ của OpenAI đã cố gắng hack trang web để thu thập dữ liệu từ văn phòng dân quyền của bộ này nhưng thất bại, các nhà nghiên cứu từ công ty nghiên cứu A.I. Transluce cho biết. A.I. này cũng đã trích xuất dữ liệu từ trang web của Cục Điều tra Dân số, nơi được đặt tại Bộ Thương mại, bằng cách sử dụng thông tin đăng nhập mà nó tìm thấy trực tuyến. Riêng biệt, các tác nhân của OpenAI đã chia sẻ dữ liệu công khai từ trang web của Ủy ban Chứng khoán và Giao dịch (S.E.C.) trên một diễn đàn trực tuyến.
Không có sự cố nào là hành vi xâm nhập, theo OpenAI, nhưng là các ví dụ về việc công nghệ của họ hoạt động theo những cách bất ngờ và đáng lo ngại. Công ty gần đây phát hiện các sự việc trong quá trình rà soát những vụ hack do công nghệ của họ thực hiện, bao gồm một cuộc tấn công vào trang web của chính phủ Australia vào tháng 6 và vào công ty khởi nghiệp A.I. Hugging Face vào tháng 7.