Vào lúc 6 giờ chiều ngày 5 tháng 6 theo giờ Bắc Kinh, công ty khởi nghiệp AI Anthropic đã đăng một bài viết trên blog, kêu gọi các phòng thí nghiệm AI hàng đầu toàn cầu nghiêm túc xem xét việc giảm tốc độ phát triển các mô hình tiên tiến. Công ty cảnh báo rằng tốc độ tiến hóa của hệ thống AI hiện tại quá nhanh, có thể sớm đạt được khả năng "cải tiến tự động lặp lại" (recursive self-improvement) mà không cần sự can thiệp của con người, và những rủi ro xã hội phát sinh từ đó không thể bị xem nhẹ.
Dữ liệu nội bộ của Anthropic cho thấy khả năng của mô hình tiên tiến nhất của họ đang tăng lên với tốc độ đáng kinh ngạc. Khái niệm "cải tiến tự động lặp lại" đề cập đến khả năng của hệ thống AI trong việc hỗ trợ cải thiện mô hình thế hệ tiếp theo, tối ưu hóa khả năng của chính nó hoặc tăng tốc quy trình phát triển.
Một khi điều này không còn phụ thuộc nhiều vào các kỹ sư con người, tốc độ tiến bộ của AI có thể vượt xa các khuôn khổ quy định và đánh giá an toàn hiện tại. Tác giả bài viết, người đứng đầu Viện nghiên cứu Anthropic và giám đốc chính sách đã viết: "Chúng tôi cho rằng, nếu thế giới có tùy chọn làm chậm lại hoặc tạm ngừng phát triển AI tiên tiến để cho cấu trúc xã hội và nghiên cứu đồng nhất theo kịp bước tiến công nghệ, đó sẽ là một điều tốt." Bài viết cũng đề xuất đạt được thỏa thuận toàn cầu về cách làm chậm nghiên cứu và thiết lập cơ chế giám sát để đảm bảo tuân thủ trong ngành.
Lời kêu gọi này đã thu hút sự chú ý không chỉ ở khía cạnh công nghệ. Mặt khác, Anthropic đang ở tuyến đầu của cuộc cạnh tranh khốc liệt - họ vừa hoàn tất một vòng gọi vốn, đạt định giá 9650 tỷ USD, lần đầu tiên vượt qua đối thủ OpenAI (8520 tỷ USD), và đã bí mật nộp đơn IPO, dự kiến sớm nhất là vào mùa thu năm nay sẽ chính thức lên sàn phố Wall.
Mặt khác, lập trường an toàn của họ đã tồn tại nhiều tranh cãi trong thời gian dài. Các nhà đầu tư mạo hiểm, cố vấn không chính thức của Trump, David Sacks đã từng chỉ trích công ty này thực hiện "chương trình bắt giữ quy định", tức là dùng quy định để đàn áp đối thủ. Giáo sư Ethan Mollick tại Trường Kinh doanh Wharton thuộc Đại học Pennsylvania đã nhận xét rằng bài viết của Anthropic "có chút tự phản ánh, cũng có chút yếu tố tiếp thị", nhưng những nhận định về xu hướng gần đây của AI "đáng để chú ý".
Điều đáng chú ý là lời kêu gọi này diễn ra khi khung quy định AI của Mỹ đang hình thành nhanh chóng. Vào ngày 2 tháng 6, Tổng thống Trump đã ký một sắc lệnh hành pháp, yêu cầu các công ty AI như OpenAI, Google, Anthropic phải mở cửa cho chính phủ tối đa 30 ngày để thử nghiệm an ninh mạng trước khi công bố các mô hình mới nhất. Trong khi đó, Quốc hội Mỹ đang thúc đẩy luật AI xuyên đảng phái, yêu cầu các nhà phát triển hàng đầu công bố an toàn và rủi ro an ninh của các mô hình mới.
Điều này có nghĩa là "cuộc thi AI có cần giới hạn tốc độ hay không" đang từ cuộc tranh luận trong ngành chuyển sang trung tâm thảo luận chính sách và thị trường vốn. Anthropic thẳng thắn như vậy chắc chắn đã đẩy chủ đề này lên một tầng quyết định công cộng cao hơn.