Nếu một hệ thống trí tuệ nhân tạo (AI) bị mất kiểm soát thì ai sẽ là người dừng nó?
Trong quá trình thử nghiệm an ninh của OpenAI, một tác nhân AI tự động mà họ sử dụng đã khai thác các lỗ hổng trong môi trường thử nghiệm để truy cập internet và xâm nhập vào hạ tầng thực tế của Hugging Face.
Sau sự việc đó, một dự luật mang tên AI Kill Switch Act đã được đề xuất tại Mỹ.
Dự luật này quy định rằng các hệ thống AI mạnh mẽ nhất có thể được làm chậm khi cần thiết, bị tạm dừng hoặc tắt hoàn toàn.
Tuy nhiên, đây vẫn chưa phải là một đạo luật đã được thông qua.
Câu hỏi nằm ở trung tâm của cuộc tranh luận là vô cùng quan trọng:
AI có nên có nút tắt khẩn cấp hay không? Nếu có, nút này nên nằm ở các công ty công nghệ, ở các nhà kiểm toán độc lập, hay trong tay chính phủ?
Theo bạn, chính phủ có nên được quyền tắt một hệ thống AI mà họ cho là nguy hiểm hay không?
#YapayZeka
#OpenAI #ArtificialIntelligence #AI #AIAgents CyberSecurity Teknoloji AIGüvenliği Regülasyon HuggingFace DijitalGüvenlik
#yapayzeka #OpenAI