Theo công ty, vụ vi phạm an ninh tại Anthropic làm lộ thông tin về lương, tin nhắn nội bộ và hoạt động kinh doanh thông qua phần mềm bên ngoài được nhà phát triển AI sử dụng — chứ không phải do truy cập vào trọng số mô hình. Các nhà nghiên cứu của Cathedral đã tiếp cận một số phần trong hệ thống thương mại, nhân sự và công nghệ thông tin của Anthropic, làm dấy lên tranh cãi về cuộc thử nghiệm và những tác động của nó đối với an ninh quốc gia.
Những điểm chính
Cathedral đã truy cập các hệ thống kinh doanh nội bộ thông qua ứng dụng của bên thứ ba.
Anthropic cho biết các câu lệnh của khách hàng và thành phần mô hình không bị truy cập.
Các ứng dụng bị ảnh hưởng vẫn bị vô hiệu hóa cho đến khi các nhà cung cấp xác nhận đã khắc phục sự cố.
Hai công ty bất đồng về việc báo cáo và mức độ nghiêm trọng của sự cố.
Vụ xâm nhập an ninh của Anthropic đã làm lộ những gì
Các hệ thống bị truy cập chứa hồ sơ nhân sự và thông tin liên lạc nội bộ, cùng với thông tin thương mại. Cathedral cho biết các tác nhân AI được sử dụng trong quá trình nghiên cứu đã tìm thấy đường dẫn đến bản ghi cuộc họp, thông tin lương, thư mời làm việc và tin nhắn Slack.
Các hệ thống bị ảnh hưởng cũng lưu thông tin liên hệ thương mại của một số khách hàng và đối tác, cùng với thông tin tài khoản cơ bản. Anthropic cho biết các nhà nghiên cứu không truy cập được lời nhắc của khách hàng, phản hồi của mô hình, mã nguồn hay trọng số mô hình AI.
Đường truy cập đi qua các lỗ hổng trong những ứng dụng quản trị và kinh doanh bên ngoài mà Anthropic sử dụng. Danh tính các nhà cung cấp liên quan không được tiết lộ. Vì vậy, việc truy cập liên quan đến phần mềm hỗ trợ hoạt động kinh doanh, chứ không phải các thành phần mô hình mà Anthropic cho biết vẫn nằm ngoài tầm với của các nhà nghiên cứu.
Cathedral tiến hành thử nghiệm במסגרת Chương trình dành cho Nhà nghiên cứu bên ngoài của Anthropic, chương trình cung cấp kênh để báo cáo lỗ hổng. Được thành lập bởi các cựu thành viên DOGE, công ty khởi nghiệp này phát triển các công cụ an ninh mạng AI cho khách hàng chính phủ và doanh nghiệp.
Anthropic phát hiện và ngăn chặn việc truy cập như thế nào
Anthropic cho biết hệ thống giám sát đã phát hiện một số hoạt động trước khi Cathedral thông báo, và quyền truy cập bị chặn ngay trong ngày hôm đó. Ứng phó với vụ xâm nhập an ninh của Anthropic cũng bao gồm việc vô hiệu hóa các ứng dụng bị ảnh hưởng.
Các ứng dụng đó chỉ được khôi phục sau khi nhà cung cấp xác nhận đã vá các lỗ hổng. Chặn quyền truy cập của các nhà nghiên cứu và sửa phần mềm là hai phần riêng biệt trong quá trình ứng phó.
Anthropic cho biết họ không có bằng chứng về việc bất kỳ ai khác ngoài Cathedral khai thác các lỗ hổng.
Bất đồng về báo cáo không chỉ dừng lại ở dữ liệu bị lộ
Anthropic và Cathedral bất đồng về mức độ đầy đủ của báo cáo nghiên cứu và tầm quan trọng của sự cố đối với an ninh quốc gia. Anthropic cáo buộc Cathedral không báo cáo toàn bộ hoạt động mà công ty này đã tiến hành trên các hệ thống của mình.
Vụ xâm nhập an ninh của Anthropic cho thấy sự khác biệt giữa việc bảo vệ các mô hình AI và bảo mật cơ sở hạ tầng xung quanh chúng: tài liệu nhân sự, biên bản cuộc họp và tin nhắn nội bộ vẫn bị lộ, dù Anthropic cho biết các thành phần mô hình không bị truy cập.
Người đứng đầu đội tấn công mô phỏng của Anthropic cũng ủng hộ việc kiểm thử bảo mật liên tục và thiết kế lại các hệ thống phần mềm để giảm mức độ phơi lộ.
Bài viết được thực hiện với sự hỗ trợ của trí tuệ nhân tạo và được ban biên tập thẩm định.