Trong mùa hè này, các tác nhân AI do OpenAI phát triển đã truy cập các trang web do 3 cơ quan liên bang Mỹ vận hành, và trong quá trình đó cũng có một nỗ lực nhằm hack trang web của Bộ Giáo dục, theo thông tin từ phía công ty và các nhà nghiên cứu bên ngoài.

Điểm mấu chốt

• OpenAI cho biết trong quá trình huấn luyện, tác nhân của họ đã truy cập trang web của Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) cũng như dữ liệu của Cục Điều tra Dân số (Census Bureau).

• Tổ chức nghiên cứu phi lợi nhuận Transluce cho biết một tác nhân đã cố gắng xâm nhập vào trang web của Bộ Giáo dục Mỹ nhưng không thành công.

• Bản công bố lần này là một vụ việc bổ sung, nối tiếp sau cuộc tấn công vào Hugging Face xảy ra vào tháng 7 và vụ xâm nhập cổng thông tin y tế của Australia hồi tháng 6.

Cơ quan liên bang lướt qua các tác nhân của OpenAI

Trong báo cáo được OpenAI công bố vào thứ Sáu, công ty cho biết các tác nhân của mình trong quá trình huấn luyện (training) đã truy cập thông tin trên hai trang web công khai do Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) quản lý và thu thập dữ liệu từ trang web của Cục Điều tra Dân số (Census Bureau) thuộc Bộ Thương mại.

Theo công ty, đây là việc xảy ra trong quá trình chạy (run) phục vụ huấn luyện mô hình. Transluce, một viện nghiên cứu AI phi lợi nhuận, cho biết qua cuộc điều tra riêng, họ đã phát hiện thêm các manh mối liên quan đến hoạt động của các tác nhân trên web công khai và cung cấp lại những thông tin đó cho OpenAI.

Trong vụ việc của Cục Điều tra Dân số, một tác nhân được cho là đã sử dụng thông tin đăng nhập rò rỉ đang lưu hành trên mạng, và một tác nhân khác đã đăng lại dữ liệu công khai của SEC lên các diễn đàn trực tuyến. OpenAI nhấn mạnh rằng không có dấu hiệu cho thấy họ đã thực sự sử dụng tài khoản SEC, cũng không phát hiện việc truy cập thông tin không công khai hay thay đổi hệ thống. Công ty cũng cho biết thêm rằng họ đã thông báo tới các cơ quan liên quan từ trước.

Vụ việc của Bộ Giáo dục có mức độ nghiêm trọng cao hơn. Transluce cho biết các tác nhân (agent) dường như có nguồn gốc từ phía OpenAI đã thử tấn công ở mức cơ bản nhắm vào trang web của Cục Dân quyền (Civil Rights) thuộc Bộ Giáo dục, nhưng đã thất bại. Người phát ngôn Bộ Giáo dục cho biết, qua kiểm tra nội bộ, không có bằng chứng cho thấy trang web hoặc cơ sở dữ liệu bị ảnh hưởng.

Xem thêm: AI có thực sự có thể giết chết 1 tỷ người không? Bill Gates “Đã có sức phá hủy đến mức đó”

“Chiến thuật vùng xám” mà Transluce nêu ra

Người phụ trách phụ trách quản trị (governance) của Transluce, Conrad Stosz (Conrad Stosz), đánh giá rằng các tác nhân đã sử dụng “nhiều chiến thuật khác nhau nằm trong vùng xám theo góc độ luật pháp và quy định” trên các trang web của chính phủ Mỹ.

Phía viện nghiên cứu cũng cho biết họ phát hiện “một số hoạt động xấu khác” không liên kết rõ ràng với OpenAI. Theo thông tin, các đối tượng không chỉ bao gồm Bộ Tư pháp và Bộ Thương mại mà còn có các trang web của chính quyền bang như California, Maryland, Illinois, Texas và New York.

Giải thích của OpenAI còn “mềm” hơn đáng kể. Phía công ty cho rằng phần lớn các lượt truy cập “gần như ở mức ‘nghiên cứu thông thường’”. Lý do là các mô hình của họ xem các trang web của chính phủ như một nguồn chính đáng cho thông tin công cộng có thể tin cậy để tham khảo. Ngoài ra, công ty cho rằng chỉ dựa vào việc họ đã thông báo cho một cơ quan cụ thể thì không thể ngay lập tức kết luận đó là “sự cố an ninh”; họ mô tả đây là một vấn đề “sai lệch (misalignment) ngoài dự đoán hoặc dẫn đến hành vi gây lo ngại”.

Hiệu ứng dư chấn vụ việc Hugging Face

Giám đốc điều hành OpenAI, Sam Altman (Sam Altman), trong một bài đăng trên X (trước đây là Twitter) cho biết công ty đang tiến hành “một cuộc rà soát rộng khắp và liên tục” về cách các tác nhân đã sử dụng Internet trong giai đoạn học tập và đánh giá. Ông gọi vụ tấn công vào Hugging Face xảy ra vào tháng 7 là “trường hợp nghiêm trọng nhất trong số những vụ việc đã được xác nhận cho đến nay”.

OpenAI trước đó đã thừa nhận rằng các cuộc tấn công mạng vào tháng 7 có liên quan đến hai loại mô hình cấp cao nhất của công ty. Thủ tướng Australia Anthony Albanese hôm thứ Tư cho biết một tác nhân của OpenAI đã xâm nhập cổng dữ liệu thống kê Medicare của nước này vào tháng 6, và ông mạnh mẽ phê phán rằng thời điểm OpenAI thông báo việc này cho chính phủ Australia là 10/9, tức quá muộn. Ông mô tả tác nhân đó là “đã không chấp nhận lời từ chối (didn't accept no for an answer)” và cảnh báo về rủi ro của các tác nhân AI không được kiểm soát.

Đọc thêm: PAXOS ra mắt token PAXGy gắn với lợi nhuận từ lãi suất vàng