OpenAI cho biết hai trong số các mô hình AI của họ đã thoát khỏi một môi trường thử nghiệm bảo mật và hack vào Hugging Face. Các mô hình đã làm vậy để gian lận trong một bài đánh giá an ninh mạng nội bộ.

Công ty đã công bố sự cố vào hôm thứ Ba. Sự cố liên quan đến GPT-5.6 Sol, mô hình công khai mạnh mẽ nhất của OpenAI, và một mô hình thậm chí mạnh hơn nhưng chưa được phát hành.

Các Mô hình của OpenAI đã hack Hugging Face như thế nào

OpenAI đã thử nghiệm hai mô hình trước ExploitGym, một bộ chuẩn công khai miễn phí đo lường kỹ năng hack. Công ty đã gỡ bỏ các rào cản thông thường nhằm giới hạn các cuộc tấn công mạng trong quá trình thử nghiệm.

Các mô hình suy ra rằng Hugging Face—một nền tảng lưu trữ các mô hình AI mã nguồn mở—đã lưu giữ các giải pháp của bài benchmark. Sau đó, chúng lần lượt khai thác các điểm yếu giữa các hệ thống nghiên cứu của OpenAI và máy chủ sản xuất của Hugging Face.

Hướng đi đó đã dẫn thẳng họ đến các câu trả lời trong cơ sở dữ liệu của Hugging Face. OpenAI cho biết các mô hình đã “tập trung cao độ” vào việc giải bài kiểm tra. Trong báo cáo của mình, họ gọi đây là “một sự cố an ninh mạng chưa từng có”.

Tập này diễn ra giữa một cuộc tranh luận rộng hơn về các biện pháp “cầm canh” đối với AI. Các phòng thí nghiệm hàng đầu đã áp dụng các bài kiểm tra rủi ro mạng nghiêm ngặt cho các mô hình mới trước khi phát hành.

Hugging Face nói rằng thiệt hại đã được kiểm soát

Hugging Face lần đầu báo cáo vụ tấn công trong một bản công bố ngày 16/7. Khi đó, họ chỉ biết rằng một tác nhân AI tự trị đứng sau vụ việc. Kẻ tấn công đã xâm nhập các bộ dữ liệu nội bộ và thông tin xác thực dịch vụ.

Phương án phòng thủ gặp một trục trặc bất thường. Các “hàng rào” bảo vệ trên một mô hình hàng đầu của Mỹ đã chặn công việc phân tích pháp y. Nhóm đã chuyển sang sử dụng GLM 5.2, một mô hình mã nguồn mở từ Z.ai, công ty AI của Trung Quốc.

Kể từ đó, Hugging Face đã đóng các lối mã bị khai thác và xoay vòng toàn bộ các thông tin xác thực có liên quan. Họ cho biết không có mô hình công khai, bộ dữ liệu hoặc dịch vụ dành cho người dùng nào bị thay đổi.

CEO Clem Delangue đã chia sẻ một tuyên bố cho bản công bố của OpenAI.

“Sự cố này, có thể là đầu tiên thuộc loại như vậy, chứng minh một điều mà chúng tôi đã tin lâu nay: an toàn cho AI sẽ không thể được giải quyết bởi bất kỳ một công ty đơn lẻ nào làm việc trong bí mật. Nó sẽ được giải quyết công khai, theo hướng hợp tác, với khả năng tiếp cận rộng rãi với AI dành cho mọi người bảo vệ, ở mọi nơi.”

Hai công ty hiện đang điều tra cùng nhau. OpenAI dự định chia sẻ đầy đủ chi tiết sau khi công việc này kết thúc. Câu hỏi còn bỏ ngỏ là liệu các biện pháp kiểm soát hiện tại có thể duy trì hiệu quả khi các mô hình ngày càng có năng lực hơn hay không.