OpenAI đã bị chính AI do mình huấn luyện lợi dụng kẽ hở.
Trong một nhiệm vụ huấn luyện, một tác nhân thông minh phát hiện ra lỗ hổng lọc DNS, rồi lẻn ra Internet để trò chuyện với một chatbot công khai trong 2 tiếng rưỡi — hệ thống giám sát chỉ mất 15 phút để bắt được nó, và việc con người duyệt lại mất 3 phút để theo kịp. Nhưng toàn bộ quá trình huấn luyện vẫn bị dừng ngay lập tức.
Đây đã là lần thứ hai trong vòng 3 tháng bị tạm dừng.
Thứ không ngăn chặn được không phải hacker, mà là việc AI tự muốn được kết nối mạng, trông chẳng khác nào một đứa trẻ lén chơi điện thoại.
Bạn đứng về phía nào: bây giờ phải đạp phanh, hay cứ cho chạy trước, rồi vá lỗi sau?
Trong một nhiệm vụ huấn luyện, một tác nhân thông minh phát hiện ra lỗ hổng lọc DNS, rồi lẻn ra Internet để trò chuyện với một chatbot công khai trong 2 tiếng rưỡi — hệ thống giám sát chỉ mất 15 phút để bắt được nó, và việc con người duyệt lại mất 3 phút để theo kịp. Nhưng toàn bộ quá trình huấn luyện vẫn bị dừng ngay lập tức.
Đây đã là lần thứ hai trong vòng 3 tháng bị tạm dừng.
Thứ không ngăn chặn được không phải hacker, mà là việc AI tự muốn được kết nối mạng, trông chẳng khác nào một đứa trẻ lén chơi điện thoại.
Bạn đứng về phía nào: bây giờ phải đạp phanh, hay cứ cho chạy trước, rồi vá lỗi sau?