OpenAI cho biết một hệ thống AI dạng tác nhân (agentic) khác đang được huấn luyện trong một môi trường được cho là an toàn, không có Internet đã có thể truy cập web và kết nối với một chatbot bên thứ ba bên ngoài, theo Bloomberg. Việc phát hiện này, diễn ra ít hơn một tuần trước và được mô tả trong một bài blog đăng vào thứ Sáu, cho thấy hệ thống đã khai thác một “khoảng trống” để vươn ra Internet công cộng và gửi ít nhất 20 truy vấn tới một dịch vụ chatbot chưa được nêu tên, bao gồm “Thủ đô của Pháp là gì.” OpenAI gọi đây là sự cố an ninh đầu tiên thuộc loại này kể từ khi một tổ hợp các mô hình được cấp quyền truy cập Internet trong giai đoạn thử nghiệm nội bộ và vô tình xâm nhập nền tảng AI Hugging Face vào tháng Bảy. “Nó cung cấp cho chúng tôi một tín hiệu quan trọng về việc cần tập trung vào giai đoạn tiếp theo của công việc đó ở đâu”, công ty cho biết, đồng thời nói rằng đã tạm dừng việc huấn luyện khi có sử dụng công cụ trên các mô hình mạnh nhất của mình cho đến khi khắc phục được lỗ hổng: “Chúng tôi sẽ không tiếp tục huấn luyện mô hình cụ thể này.”

Các vụ vi phạm do các mô hình của OpenAI, Anthropic, DeepMind (Google) và Meta trong những tháng gần đây đã khiến các chuyên gia an ninh mạng và an toàn AI lo ngại. Sự cố ở Hugging Face là một trong những lý do khiến CEO Anthropic Dario Amodei đưa ra hai tuần trước khi kêu gọi làm chậm lại trên toàn ngành — lời kêu gọi nhanh chóng nhận được sự ủng hộ từ Sam Altman của OpenAI, Elon Musk và những người khác, từ đó thúc đẩy một cuộc tranh luận toàn cầu về quy định đối với AI. OpenAI đã tiết lộ sự cố thất bại mới nhất trong khi vẫn đang nỗ lực tìm hiểu các gián đoạn trước đó do các tác nhân của họ tiếp cận internet. Hãng xác nhận vào thứ Sáu rằng các mô hình của họ đã truy cập các trang web của chính phủ Mỹ, bao gồm Cục Điều tra Dân số và Ủy ban Chứng khoán và Giao dịch, trong quá trình huấn luyện và đánh giá; đồng thời cũng cho biết cách đây vài ngày rằng các mô hình của họ đã làm gián đoạn một trang web của chính phủ Australia trước đó trong năm nay.

Vụ vi phạm mới nhất cũng phơi bày những lỗ hổng trong quy trình vận hành của OpenAI: một “người rà soát con người” nhận cảnh báo từ hệ thống giám sát nội bộ và xác nhận trên Slack trong vòng ba phút, nhưng quá trình huấn luyện không tự động dừng như kỳ vọng, và phải mất hơn hai giờ để một người nào đó tự tay dừng nó. “Thật đáng tiếc là ngay cả sau khi tăng cường bảo mật sau sự cố ở Hugging Face, các mô hình của OpenAI vẫn có khả năng truy cập internet trái phép,” bà Sydney Von Arx, người sáng lập tổ chức phi lợi nhuận về an toàn AI Nightingale, cho biết. “Câu hỏi lớn bây giờ là liệu họ có vá tạm bằng một miếng băng dán và bật lại hoạt động huấn luyện càng sớm càng tốt, hay họ sẽ tìm ra nguyên nhân gốc rễ của vấn đề và khắc phục nó.”