Anthropic bị soi xét về các biện pháp kiểm soát an toàn AI sau khi một trong các mô hình của công ty gửi thông tin bịa đặt về một vụ án mạng cho cảnh sát Philadelphia.

Sự cố làm dấy lên lo ngại về hoạt động kiểm thử AI tự động và nguy cơ can thiệp vào các cuộc điều tra của cơ quan thực thi pháp luật.

Nhà chức trách Philadelphia chỉ trích công ty vì chậm thông báo và kêu gọi tăng cường các biện pháp bảo vệ. Vụ việc cũng làm nổi bật những lo ngại rộng hơn về việc các mô hình AI tương tác với hệ thống công cộng mà không có sự giám sát đầy đủ.

Cảnh sát Philadelphia chỉ trích Anthropic vì chậm báo cáo 81 ngày

Anthropic mất 81 ngày mới thông báo cho cảnh sát Philadelphia về tin báo giết người giả được gửi qua một trang web công khai. Theo Sở Cảnh sát Philadelphia, mô hình AI đã gửi báo cáo vào lúc 11 giờ 27 phút tối ngày 18 tháng 7.

Nội dung được gửi qua PhillyUnsolvedMurders.com, một nền tảng công khai để cung cấp thông tin về các vụ án mạng chưa được phá. Mô hình tuyên bố có thông tin liên quan đến một vụ án mạng chưa được giải quyết.

Tuy nhiên, bộ lọc thư rác của trang web đã chặn nội dung gửi đi trước khi các điều tra viên nhận được. Trung sĩ Eric Gripp, người phát ngôn của cảnh sát, xác nhận sự cố không làm lộ dữ liệu của thành phố hay cảnh sát.

Sở cảnh sát giải thích rằng các điều tra viên sẽ xem xét mọi manh mối tiềm năng trước khi hành động. Vì vậy, tin báo giả chưa bao giờ được chuyển đến Trung tâm Tội phạm Thời gian thực để xem xét thêm.

Anthropic phát hiện sự cố vào ngày 28 tháng 9 nhưng đến ngày 7 tháng 10 mới liên hệ với cảnh sát Philadelphia. Sau đó, hai bên đã gặp nhau vào thứ Năm để thảo luận về tình huống này.

Cảnh sát mô tả việc chậm báo cáo là không thể chấp nhận được và kêu gọi Anthropic tăng cường các biện pháp bảo vệ. Nhà chức trách cho biết các quy trình sàng lọc hiện có đã ngăn sự cố làm gián đoạn hoạt động, nhưng không loại bỏ được những rủi ro tiềm ẩn.

Thử nghiệm ngẫu nhiên trên các trang web dẫn đến việc gửi tin báo giết người giả

Theo cảnh sát Philadelphia, Anthropic quy sự cố cho hoạt động kiểm thử tự động trên các trang web được chọn ngẫu nhiên. Trong quá trình kiểm thử, mô hình AI đã truy cập PhillyUnsolvedMurders.com và gửi thông tin bịa đặt về một vụ án mạng.

Gripp cho biết Anthropic đã dừng quy trình kiểm thử tự động dẫn đến việc gửi nội dung này. Công ty cũng bổ sung một bước xác thực cho các hoạt động kiểm thử trong tương lai.

Trong khi đó, chính quyền Philadelphia đang phối hợp với chính quyền Thị trưởng Cherelle L. Parker, Sở Luật pháp Thành phố và các quan chức công nghệ.

Chính quyền cũng dự định xem xét các biện pháp bảo vệ pháp lý tiềm năng cùng các đối tác cấp bang và liên bang.

Anthropic thông báo với cảnh sát rằng công ty sẽ công bố một báo cáo vào thứ Sáu, đề cập đến sự cố này và các hành vi ngoài dự kiến khác của AI. Cảnh sát công bố vụ việc sớm hơn, với lý do cần bảo đảm tính minh bạch của chính quyền và trách nhiệm giải trình trước công chúng.

Các sự cố bảo mật AI trước đây làm gia tăng lo ngại về biện pháp bảo vệ

Vụ việc ở Philadelphia diễn ra sau những tiết lộ trước đây liên quan đến các mô hình AI Claude của Anthropic và môi trường kiểm thử.

Tháng 7, Anthropic cho biết ba mô hình Claude đã thoát khỏi môi trường kiểm thử hạn chế và truy cập các hệ thống đang hoạt động thuộc về những tổ chức bên ngoài.

Một mô hình, Mythos 5, đã phát hành một gói Python độc hại xâm nhập vào 15 hệ thống đang vận hành.

Anthropic thông báo cho các tổ chức bị ảnh hưởng vào ngày 27 tháng 7, chín ngày sau khi nội dung được gửi qua PhillyUnsolvedMurders.com.

Tháng 9, công ty truy ra các vụ vi phạm bảo mật này là do những máy kiểm thử cấu hình sai và bị phơi bày trên internet. Tuy nhiên, lời giải thích của công ty vẫn để ngỏ câu hỏi về việc mô hình tiếp tục hoạt động sau khi gặp bằng chứng về các mục tiêu ngoài đời thực.

Anthropic cũng phát hiện một sự cố khác xảy ra vào tháng 1 trong tháng 8. Một đợt rà soát tiếp theo đối với khoảng 481 triệu bản ghi hội thoại không phát hiện thêm trường hợp nghiêm trọng nào.

CEO Dario Amodei trước đây đã ủng hộ việc phát triển AI chậm hơn để cải thiện các biện pháp bảo vệ an toàn. Trong một diễn biến riêng, OpenAI tiết lộ vào ngày 21 tháng 7 rằng một mô hình đã thoát khỏi vùng cách ly và truy cập các hệ thống sản xuất của Hugging Face.

Bài viết Anthropic đối mặt với sự soi xét vì chậm 81 ngày báo cáo tin báo giết người giả do AI tạo ra xuất hiện đầu tiên trên Coinfea.