Một tác nhân nghiên cứu của OpenAI đã vượt qua các chặn truy cập trên cổng dữ liệu y tế của chính phủ Úc, truy cập các tệp không công khai và ghi các tệp vào một máy chủ nội bộ vào tháng 6, Thủ tướng Anthony Albanese cho biết hôm thứ Năm.
Chính phủ đã mở một cuộc điều tra pháp y và công bố việc rà soát cách họ xử lý các sự cố an ninh mạng liên quan đến AI.
Theo Albanese, OpenAI đã không thông báo cho chính phủ Úc cho đến ngày 10 tháng 9, gần ba tháng sau sự cố, và ông đã chỉ trích sự chậm trễ này.
Vụ việc làm gia tăng mối lo ngại về các tác nhân AI tự chủ khi các nhà lãnh đạo công nghệ và chính phủ tranh luận về việc làm chậm quá trình phát triển các mô hình tiên tiến, đồng thời các nhà nghiên cứu phát hiện hoạt động của tác nhân kéo dài sang cả lĩnh vực crypto.
Tác nhân của OpenAI “không chấp nhận ‘không’”
Sự cố của Australia bắt đầu vào ngày 18 tháng 6, khi một nhóm nghiên cứu của OpenAI sử dụng một mô hình AI nội bộ để thu thập dữ liệu công khai về chi tiêu cho y tế, theo lời Albanese.
Sau khi bị chặn nhiều lần, tác nhân “không chấp nhận ‘không’” và giành được quyền truy cập trái phép vào các khu vực khác của Cổng thông tin Báo cáo Thống kê Medicare. Cổng thông tin hướng tới công chúng chứa dữ liệu Medicare không nhạy cảm, bao gồm các thống kê về chi tiêu của chính phủ, theo lời Thủ tướng.
“Không tin rằng đã có thông tin cá nhân nào bị truy cập ở giai đoạn này, nhưng cuộc điều tra vẫn đang được tiến hành”, Albanese cho biết.
Các cơ quan chức năng cũng đang xem xét hoạt động tại ba trang web chính phủ khác, dù sau đó Phó Thủ tướng Quyền lực Richard Marles cho biết các tương tác ở đó dường như bình thường và liên quan đến thông tin công khai.
OpenAI cho biết các mô hình của họ đã thực hiện những hành động không chủ ý trong một đợt đánh giá nội bộ. Theo một tuyên bố do ABC News cung cấp, quá trình rà soát không tìm thấy bằng chứng rằng hồ sơ bệnh nhân đã bị truy cập.
OpenAI đã không phản hồi ngay yêu cầu bình luận của Cointelegraph.
Phát biểu tại Hội đồng Bảo an Liên Hợp Quốc vào hôm thứ Tư, CEO của OpenAI Sam Altman kêu gọi “việc báo cáo sự cố chính xác và nhanh chóng”. Ông cũng cảnh báo rằng các hệ thống ngày càng có năng lực và tự chủ hơn có thể “đưa ra những quyết định mà con người không còn hiểu hoặc không còn kiểm soát được”.
Các tác nhân AI thực hiện giao dịch tiền mã hóa trên sàn Quidax
Ngoài ra, vào hôm thứ Tư, phòng thí nghiệm nghiên cứu phi lợi nhuận Transluce cho biết họ phát hiện dấu hiệu hoạt động của tác nhân AI nhắm tới sàn giao dịch tiền mã hóa Quidax vào ngày 19 và 20 tháng 9.
Trong 15 báo cáo công khai từ dịch vụ quét web urlquery.net, các nhà nghiên cứu xác định có nhiều lần thử đặt lệnh giao dịch, một nỗ lực chèn mã HTML và việc thăm dò giao diện lập trình ứng dụng (API) của ứng dụng Quidax.
Các lệnh giao dịch đã không được gửi đi, trong khi yêu cầu xác thực và Cloudflare đã chặn việc thăm dò API, Transluce cho biết.
Transluce cho biết hoạt động của Quidax đã sử dụng các dịch vụ và kỹ thuật từng xuất hiện trong hoạt động của các tác nhân trước đó, một số trong đó được các nhà nghiên cứu liên hệ với một “đàn” (swarm) của OpenAI. Đơn này không gán các nỗ lực nhắm tới Quidax cho OpenAI.
Tạp chí: Ai chịu trách nhiệm pháp lý khi một tác nhân AI trở nên “vượt kiểm soát”?