Nhiều người trong ngành AI dự đoán sẽ xảy ra một sự cố lớn do AI gây ra trong vòng sáu đến 12 tháng tới. Theo Axios, các lãnh đạo tại Anthropic, OpenAI và những nhà phát triển lớn khác đã bắt đầu vận động các nhà lập pháp sẽ soạn thảo quy định sau đó.

Các lãnh đạo thừa nhận hiện không có cách nào để bất kỳ dự luật AI nào được thông qua, vì vậy họ đang tìm cách đi trước một bước so với đạo luật khẩn cấp mà Washington sẽ soạn thảo sau khi thảm họa đầu tiên xảy ra.

Dự luật của Sanders sẽ phạt tù những người vi phạm tới 20 năm

Các nhà hoạch định dự đoán đảng Dân chủ sẽ giành được vị thế vững chắc hơn sau cuộc bầu cử giữa nhiệm kỳ ngày 3 tháng 11 và nhanh chóng có biện pháp đối phó với AI tiên tiến. Nhưng nỗ lực này vấp phải một Quốc hội già cỗi không hiểu công nghệ, một nền kinh tế phụ thuộc vào chi tiêu cho các trung tâm dữ liệu và những mô hình có trọng số mở mà bất kỳ ai cũng có thể tải xuống ngay hôm nay.

Các công ty không cho rằng việc kiểm soát cả hai viện sẽ chấm dứt tình trạng đấu đá nội bộ, kể cả những bất đồng giữa các nghị sĩ Dân chủ.

Các đề xuất trải rộng từ cấm siêu trí tuệ đến tạm dừng phát triển AI tiên tiến. Một đề xuất do Thượng nghị sĩ Bernie Sanders và Hạ nghị sĩ Greg Casar đưa ra, có tên là Đạo luật Cấm Siêu trí tuệ Nhân tạo.

Dự luật sẽ cấm AI có khả năng ngang bằng hoặc vượt trội con người trong nhiều nhiệm vụ và ngăn chặn các hoạt động nghiên cứu tiên tiến cho đến khi một cơ quan liên bang mới xây dựng các tiêu chuẩn an toàn. Hình phạt có thể bao gồm mức án lên đến 20 năm tù.

Cả hai đảng và một bộ phận trong ngành đều ủng hộ việc bắt buộc trang bị công tắc ngắt khẩn cấp cho các mô hình tiên tiến. Một số chuyên gia đang đặt câu hỏi liệu có thể tắt được tất cả các hệ thống trí tuệ nhân tạo hay không.

Một trợ lý của Đảng Dân chủ viện dẫn cuộc khủng hoảng tài chính năm 2008 và đại dịch COVID làm ví dụ về việc Quốc hội hành động nhanh chóng trong các tình huống khẩn cấp trước đây.

Các nhà hoạch định của Anthropic và OpenAI lo ngại về một vụ tấn công mạng làm mất điện và nước

Kịch bản có khả năng xảy ra nhất là một cuộc tấn công mạng đủ lớn để làm tê liệt ngân hàng, dịch vụ internet, thậm chí cả các tiện ích điện và nước. Theo dự đoán của các nhà hoạch định, tác hại thực sự đầu tiên do AI không an toàn gây ra sẽ chỉ khiến công chúng vốn đã dè chừng càng quay lưng với ngành này.

CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman và Tổng thống Donald Trump, người đã tránh việc quản lý AI, đều sẽ phải chịu sức ép.

Các công ty cũng lập đội đỏ để thử nghiệm những tình huống xấu nhất, tấn công chính hệ thống phòng thủ của mình nhằm tìm ra lỗ hổng.

Diễn tập mô phỏng các tình huống là hoạt động thường lệ trong kinh doanh và an ninh quốc gia. Ở đây, nhiều nhà nghiên cứu cấp cao và lãnh đạo tin rằng một sự cố lớn là điều không thể tránh khỏi.

“OpenAI tổ chức các cuộc diễn tập chuẩn bị ứng phó, trong đó các nhóm thảo luận và xử lý nhiều kịch bản tiềm tàng,” người phát ngôn của công ty cho biết. “Các kịch bản này không được xem là điều chắc chắn sẽ xảy ra, mà nhằm giúp chúng tôi chuẩn bị cho nhiều tình huống khác nhau.” Anthropic từ chối bình luận.

Tại Hàn Quốc, một kẻ tấn công đơn độc bị cáo buộc đã sử dụng các mô hình AI của Trung Quốc, trong đó có DeepSeek, để tấn công hai ngân hàng ở nước này và đánh cắp dữ liệu của hàng chục nghìn khách hàng.

CrowdStrike đánh giá với mức độ tin cậy vừa phải rằng nhiều khả năng kẻ tấn công nói tiếng Trung. Theo công ty an ninh này, sau đó kẻ tấn công đã hỏi Claude Code của Anthropic lời khuyên về nơi bán dữ liệu.

Anthropic đã tiết lộ bốn trường hợp các mô hình Claude truy cập internet công cộng trong quá trình thử nghiệm và xâm nhập vào các hệ thống bên ngoài. Các phòng thí nghiệm cũng đang xem xét hàng chục nghìn trường hợp mô hình có hành vi bất ngờ.

Nếu bạn đang đọc bài này, bạn đã đi trước một bước. Hãy tiếp tục dẫn đầu với bản tin của chúng tôi.