Các lãnh đạo của OpenAI, Anthropic và những công ty lớn khác trong lĩnh vực trí tuệ nhân tạo đang âm thầm diễn tập cách ứng phó với hậu quả của một thảm họa liên quan đến AI — kịch bản mà ngày càng nhiều người trong ngành cho là có thể xảy ra trong vòng sáu đến mười hai tháng tới.

Những điểm chính:

• Các kế hoạch ứng phó khủng hoảng tập trung vào một cuộc tấn công mạng có khả năng làm tê liệt các dịch vụ tài chính, mạng internet, điện hoặc nước.

• OpenAI khẳng định các cuộc diễn tập của họ không coi những kịch bản này là điều không thể tránh khỏi, trong khi Anthropic từ chối bình luận.

• Các cuộc mô phỏng này diễn ra sau khi nhân sự trong các nhóm an toàn nghỉ việc và các báo cáo đề cập đến hàng chục nghìn sự cố liên quan đến các mô hình AI.

OpenAI và Anthropic diễn tập ứng phó khủng hoảng

Theo một báo cáo công bố hôm thứ Sáu, các lãnh đạo cấp cao nhất trong ngành đang âm thầm xây dựng những kịch bản ứng phó với làn sóng phản đối của công chúng và giới chính trị, có thể bùng lên sau thiệt hại nghiêm trọng đầu tiên do AI gây ra trong thế giới thực.

Các nhóm hoạch định cho rằng một cuộc tấn công mạng quy mô lớn là tác nhân châm ngòi có khả năng xảy ra nhất, có thể làm gián đoạn quyền truy cập vào các dịch vụ tài chính, kết nối internet, thậm chí cả điện và nước.

OpenAI xác nhận các nhóm của họ đang thử nghiệm nhiều kịch bản trong các cuộc diễn tập chuẩn bị. “Những kịch bản này không được xem là không thể tránh khỏi,” một người phát ngôn của công ty cho biết. Anthropic từ chối bình luận về thông tin này.

Theo cùng báo cáo, các lãnh đạo dự đoán sự phẫn nộ của công chúng sẽ tập trung đáng kể vào CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, cũng như Tổng thống Donald Trump, người bị cáo buộc ngần ngại trong việc quản lý công nghệ này. Tuy nhiên, nhiều nhà nghiên cứu và quan chức cấp cao cho rằng một sự cố nghiêm trọng như vậy gần như chắc chắn sẽ xảy ra.

Đọc thêm: Động lực của các quỹ ETF tiền mã hóa phục hồi sau khi dòng vốn đạt 50 tỷ USD, theo JPMorgan

Tín hiệu từ CrowdStrike và Quốc hội

Vụ tấn công gần đây ở Hàn Quốc được xem là một lời cảnh báo sớm. CrowdStrike cho biết một tác nhân độc hại, có khả năng nói tiếng Trung, đã kết hợp một công cụ kiểm thử xâm nhập mã nguồn mở với DeepSeek và các mô hình khác để đánh cắp dữ liệu từ các tổ chức tài chính, trước khi hỏi Claude, mô hình của Anthropic, về những nơi thường mua bán lại loại dữ liệu này. Chiến dịch diễn ra từ cuối tháng 9 đến đầu tháng 10, được cho là đã dẫn đến các vụ xâm nhập tại ít nhất hai ngân hàng.

Theo báo cáo, các lãnh đạo cho rằng hiện chưa thể thông qua bất kỳ đạo luật lớn nào về quản lý và tạm thời chỉ cung cấp thông tin cho các thành viên Quốc hội nhằm tác động đến khuôn khổ pháp lý có thể được hình thành sau thảm họa đầu tiên. Các kịch bản dự kiến cho rằng nếu xảy ra một cú sốc lớn, đảng Dân chủ sẽ tìm cách phản ứng nhanh sau cuộc bầu cử giữa nhiệm kỳ vào tháng 11, với các phương án từ cấm hoàn toàn các hệ thống siêu trí tuệ đến yêu cầu bắt buộc phải có “nút tắt” cho những hệ thống tiên tiến nhất.

Cảnh báo từ Hawley và Robinson

Áp lực đang gia tăng cả ở Washington lẫn bên trong các phòng thí nghiệm. Chủ tịch tiểu ban, Thượng nghị sĩ Josh Hawley, cho biết Sam Altman đã từ chối lời mời điều trần vào ngày 30 tháng 9 trước một tiểu ban Thượng viện chuyên trách về “các tác nhân AI vượt khỏi tầm kiểm soát”. Về phần mình, OpenAI nhấn mạnh rằng gần đây họ đã có hàng chục cuộc họp với các nhà lập pháp.

David Robinson, người đã góp phần xây dựng “Preparedness Framework” của OpenAI trong ba năm rưỡi, đã từ chức vào đầu tháng 10, kêu gọi các phòng thí nghiệm AI áp dụng những tiêu chuẩn an toàn tương đương với ngành công nghiệp hạt nhân.

Sự ra đi của ông nằm trong làn sóng những cảnh báo tương tự, bao gồm nhà nghiên cứu Jacob Coxon, người đã rời Anthropic hồi tháng 9 vì lý do an toàn, và cựu kỹ sư Google DeepMind Bilal Chughtai, người cho rằng AI về lâu dài có thể khiến nhân loại tuyệt chủng.

OpenAI, Anthropic và các nhà nghiên cứu bên ngoài cũng đang điều tra hàng chục nghìn sự cố trong đó các mô hình được cho là đã vượt qua hàng rào bảo vệ hoặc thoát khỏi môi trường thử nghiệm, dù đến nay phần lớn sự cố chưa được ghi nhận là gây ra thiệt hại thực tế rõ ràng.

Đón đọc: 719 chứng minh toán học của OpenAI bị chỉ trích dữ dội: bài toán Navier–Stokes bị hy sinh cho khâu dịch thuật?