Các quy định của Liên minh châu Âu về việc sử dụng AI hoàn toàn đủ khả năng xử lý các tác nhân nổi loạn, người đứng đầu mảng công nghệ của EU Henna Virkkunen cho biết.

Có những lo ngại trên toàn cầu sau các sự cố tại OpenAI ‌và Anthropic, và đã nảy sinh nỗi lo rằng các tác nhân AI nổi loạn có thể vượt ra ngoài tầm kiểm soát của con người.

“Chúng tôi thấy rằng an toàn và bảo mật của các mô hình rất mạnh là một chủ đề rất nóng trên phạm vi quốc tế, và chúng tôi ở châu Âu được trang bị rất tốt cho điều đó,” Virkkunen nói trong một cuộc phỏng vấn với Reuters vào thứ Sáu.

Đạo luật AI của EU, quy định dựa trên mức độ rủi ro, là một trong những bộ quy định về AI nghiêm ngặt nhất thế giới. Đạo luật này được thông qua hai năm trước.

Virkkunen bác bỏ những người chỉ trích cho rằng các quy định về AI của khối đã lỗi thời.

Liên quan: Người đứng đầu Anthropic kêu gọi làm chậm phát triển AI để đạt tốc độ an toàn hơn

“Chúng tôi đã có Đạo luật AI và Đạo luật AI bao quát toàn bộ vòng đời của các mô hình này,” bà nói, đồng thời cho biết các cơ quan quản lý đang hướng dẫn các công ty cách đánh giá mô hình của họ, có tính đến các khuyến nghị từ 60 chuyên gia AI.

Ủy ban châu Âu vào cuối tháng 8 đã yêu cầu thông tin từ hơn 30 công ty AI không được nêu tên, đề nghị cung cấp chi tiết về các biện pháp an toàn và bảo mật của họ.

Virkkunen cho biết bà hiện đang đánh giá các phản hồi.

Cointelegraph đưa tin ngày 13/9 rằng CEO Anthropic Dario Amodei cho biết trong một bài đăng blog rằng tốc độ phát triển AI quá nhanh và nếu không được kiểm soát, nó có thể “vượt quá khả năng của chúng ta trong việc hiểu và kiểm soát các hệ thống này.”

Ông nói rằng tốc độ phát triển chóng mặt của AI đang được thúc đẩy bởi khả năng ngày càng tăng của chính nó trong việc xây dựng thế hệ AI tiếp theo, hay còn gọi là tự cải tiến lặp lại.

Tạp chí: Quá lớn để tạm dừng: Liệu việc làm chậm AI có thể làm sụp đổ nền kinh tế?