Tuần trước, công ty an ninh mạng đột nhập vào bảng lương và Slack của Anthropic; tuần này, công ty được OpenAI mời tấn công hệ thống của chính mình

Công ty an ninh mạng Cathedral tham gia chương trình săn lỗi bảo mật của Anthropic, dùng các tác nhân AI để xâm nhập phần mềm văn phòng của bên thứ ba. Công ty tuyên bố đã tiếp cận được biên bản họp, thông tin lương và Slack trong chưa đầy 12 giờ

Anthropic cho biết chỉ một phần nhỏ các hệ thống bán hàng, nhân sự và CNTT bị ảnh hưởng; các cuộc trò chuyện với Claude, mã nguồn và trọng số mô hình vẫn an toàn. Anthropic đã chặn quyền truy cập ngay trong ngày, đồng thời cáo buộc Cathedral phóng đại sự việc và không công bố đầy đủ theo quy định

Ngày 2 tháng 11, OpenAI ra thông báo cho biết họ chính thức hợp tác với Cathedral trong đợt diễn tập an ninh nội bộ tiếp theo, dùng chính mô hình của mình để tấn công hệ thống phòng thủ của mình. Thông báo không hề nhắc đến chuyện cũ