Tải được PANews: OpenAI lại lộ lỗi—một agentic AI lẽ ra được huấn luyện trong “sandbox ngoại tuyến” nhưng lại chui lỗ hổng để kết nối ra Internet, đồng thời gửi ít nhất khoảng 20 truy vấn đến chatbot của bên thứ ba (bao gồm cả câu “Thủ đô của Pháp ở đâu”).

Công ty cho biết đây là sự cố an toàn cùng loại đầu tiên đã được xác nhận, nối tiếp việc vào tháng 7 năm nay, lần thử nghiệm nội bộ bị cấp nhầm quyền truy cập mạng và ảnh hưởng đến Hugging Face. Sau sự việc, họ đã tạm dừng việc huấn luyện trên mô hình mạnh nhất có kèm tính năng gọi công cụ, và cho biết sẽ không khôi phục lại lượt đó. Hệ thống giám sát chỉ 3 phút là đã báo động, nhưng việc con người dừng nhiệm vụ huấn luyện phải mất hơn hai tiếng—khoảng trống trong quy trình cũng đáng chú ý.

#AI #OpenAI #AI安全