Các nhà lập pháp ở New York đã thông qua một dự luật nhằm hạn chế những thảm họa do trí tuệ nhân tạo gây ra. Theo dự luật, bang muốn ngăn chặn các mô hình AI được tạo ra bởi các công ty như OpenAI, Google và Anthropic không góp phần vào các kịch bản thảm họa.

Theo dự luật, các kịch bản này bao gồm cái chết hoặc thương tích của hơn 100 người hoặc hơn 1 tỷ đô la trong thiệt hại hoặc tổn thất. Dự luật, được biết đến với tên gọi Đạo luật RAISE, đại diện cho một chiến thắng cho các phong trào thúc đẩy an toàn AI. Các phong trào này đã mất sức trong vài năm qua khi Silicon Valley và chính quyền Trump tiếp tục ưu tiên tốc độ và đổi mới.

Các nhà vận động tập trung vào an toàn, bao gồm cả người đoạt giải Nobel Geoffrey Hinton và nhà nghiên cứu AI tiên phong Yoshua Bengio, đứng sau Đạo luật RAISE. Nếu nó cuối cùng được ký thành luật, dự luật sẽ thiết lập bộ tiêu chuẩn minh bạch hợp pháp đầu tiên cho các phòng thí nghiệm trí tuệ nhân tạo hàng đầu tại Hoa Kỳ.

New York xem xét Đạo luật RAISE để hạn chế các thảm họa do AI gây ra

Đạo luật RAISE có một số điều khoản và mục tiêu tương tự như dự luật an toàn AI gây tranh cãi SB 1047 ở California, cuối cùng đã bị phủ quyết.

Tuy nhiên, một đồng tác giả của Đạo luật RAISE, Thượng nghị sĩ tiểu bang New York Andrew Gounardes, đã đề cập trong một cuộc phỏng vấn rằng ông đã thiết kế dự luật theo cách mà nó không kìm hãm sự đổi mới trong số các công ty khởi nghiệp hoặc các nhà nghiên cứu học thuật, một chỉ trích thường gặp mà SB 1047 phải đối mặt. “Thời gian để đặt ra các rào cản đang nhanh chóng thu hẹp vì công nghệ này đang phát triển nhanh chóng,” Thượng nghị sĩ Gounardes cho biết.

Thượng nghị sĩ cũng cho biết hầu hết những người am hiểu về lĩnh vực AI cũng đã nhận ra những rủi ro này, một sự phát triển mà ông gọi là “đáng lo ngại.” Trong khi đó, Đạo luật RAISE hiện đang trên đường đến bàn làm việc của Thống đốc New York Kathy Hochul, nơi bà có thể ký thành luật hoặc gửi lại để sửa đổi. Một tùy chọn khác là bà có thể phủ quyết dự luật, điều này có khả năng xảy ra.

Nếu cuối cùng nó được ký thành luật, Đạo luật RAISE sẽ yêu cầu một số phòng thí nghiệm AI lớn nhất thế giới công bố báo cáo an toàn và bảo mật về các mô hình AI tiên tiến của họ. Dự luật cũng yêu cầu các phòng thí nghiệm AI báo cáo các sự cố an toàn liên quan đến hành vi của mô hình AI hoặc các tác nhân xấu ăn trộm một mô hình AI, nếu điều đó xảy ra.

Nếu các công ty công nghệ không đáp ứng được những tiêu chuẩn này, Đạo luật RAISE trao quyền cho tổng chưởng lý New York áp dụng các hình phạt dân sự lên đến 30 triệu đô la đối với họ.

Đạo luật RAISE tìm cách quản lý các phòng thí nghiệm AI

Đạo luật RAISE được thiết kế để quản lý các công ty AI lớn nhất toàn cầu, bao gồm cả những công ty có trụ sở tại California như OpenAI và Google, và những công ty có trụ sở tại Trung Quốc, như DeepSeek và Alibaba. Các yêu cầu của dự luật bao gồm một điều khoản bắt buộc áp dụng cho các công ty đã sử dụng hơn 100 triệu đô la tài nguyên máy tính để đào tạo các mô hình AI của họ và có sẵn cho cư dân ở New York.

Mặc dù có một số điểm tương đồng với SB 1047, Đạo luật RAISE giải quyết một số dự luật an toàn AI trước đó.

Ví dụ, không có điều khoản nào yêu cầu các nhà phát triển mô hình AI phải có công tắc ngắt trên các mô hình của họ, cũng như không buộc các công ty đã đào tạo lại mô hình của họ phải chịu trách nhiệm về những thiệt hại nghiêm trọng. Tuy nhiên, đã có phản đối đối với dự luật ở New York, theo đồng tác giả của Đạo luật RAISE, thành viên Hội đồng tiểu bang New York Alex Bores. Ông cho rằng sự kháng cự này không có gì bất ngờ nhưng cũng cho biết Đạo luật RAISE sẽ không hạn chế khả năng phát triển của các công ty công nghệ theo bất kỳ cách nào.

“Đạo luật RAISE của NY là một dự luật AI cấp tiểu bang ngốc nghếch, ngốc nghếch khác chỉ gây hại cho Hoa Kỳ trong thời điểm mà các đối thủ của chúng ta đang đua vượt lên,” Anjney Midha, đối tác chính của Andreessen Horowitz nói trong một bài đăng vào thứ Sáu trên X.

Andreessen Horowitz và vườn ươm khởi nghiệp Y Combinator đã phản đối mạnh mẽ SB 1047. Ngoài ra, đồng sáng lập Anthropic Jack Clark cũng đã bày tỏ những bất bình của mình về sự rộng lớn của Đạo luật RAISE, lưu ý rằng nó có thể gây ra rủi ro cho các công ty nhỏ hơn.

Tin tức crypto của bạn xứng đáng được chú ý - KEY Difference Wire đưa bạn lên 250+ trang hàng đầu