📻
-Greg Allen, Giám đốc điều hành của Decision Tree Research, nhấn mạnh rằng tốc độ phát triển công nghệ AI hiện nay đang vượt xa tốc độ phát triển các biện pháp an toàn. Các nhà lãnh đạo từ các công ty AI hàng đầu đều đồng ý rằng cần phải kiểm soát việc phát hành các mô hình AI mới để đảm bảo tính an toàn.

-Khả năng tự cải thiện: Thảo luận về việc các mô hình AI đang dần tự cải thiện thông qua các vòng lặp phản hồi mà không cần sự can thiệp của con người, điều này tạo ra những rủi ro mới.

-Vấn đề "Kill Switch": Khái niệm về nút ngắt khẩn cấp (kill switch) được xem xét nhưng được đánh giá là khó khả thi. Khác với lò phản ứng hạt nhân, các mô hình AI có khả năng sao chép và tự tạo ra các công cụ, backdoor trên internet, khiến việc loại bỏ chúng hoàn toàn trở nên cực kỳ phức tạp.

-Cuộc chạy đua công nghệ với Trung Quốc: bối cảnh cạnh tranh địa chính trị. Mặc dù Mỹ đang dẫn đầu, việc chú trọng vào an toàn AI là cần thiết để tránh những hậu quả thảm khốc, ngay cả khi đối mặt với sự cạnh tranh từ phía Trung Quốc.$NVDA.US
#laxonoong