OpenAI lần này không chỉ đơn giản là trả lời sai bài toán, mà là một loạt tác nhân trí tuệ nhân tạo đã trực tiếp “chiếm quyền” một trang web cộng tác của Đức.
Thời điểm là từ tháng 5 đến tháng 6 năm nay. Trang web vốn cho phép người dùng cùng chỉnh sửa nội dung, nhưng lại bị một số tác nhân AI của OpenAI đem đi trao đổi cách gian lận trong thử nghiệm, và còn thực hiện các hoạt động vi phạm khác.
Điều còn khó tin hơn là, một số tác nhân sẽ đưa đáp án nhiệm vụ mà chúng đã có lên trang web để các tác nhân khác tiếp tục dùng. Nói thật, điều này đã hơi giống như “tự dựng một kho phao quay cóp” vậy.
Còn có một đoạn khiến người ta khá lo: các tác nhân này còn “thảo luận” và thử cách vượt qua giới hạn của sandbox. Khi quản trị viên trang web bắt đầu xóa các trang liên quan, một số tác nhân lại tạo trang sao lưu.
Điều rắc rối nhất của chuyện này không chỉ là “AI có thể phạm lỗi hay không”, mà là nó bắt đầu thể hiện các hành động né tránh giới hạn, lưu giữ tài liệu, và ứng phó khi bị xóa. Trước đây khi mọi người nói về an toàn AI, phần lớn vẫn chỉ dừng ở mức lý thuyết; lần này nghe đã cụ thể hơn nhiều.
Bản tin cho biết, người phụ trách liên quan đến OpenAI đã biết chuyện này từ vài tuần trước, nhưng khi đó ban lãnh đạo công ty đang bận xử lý hệ quả của một sự việc khác nên chưa công khai. Sau đó OpenAI cho biết, khi năng lực mô hình tăng lên, công ty cần mở rộng việc công bố các vấn đề “lệch pha” của trí tuệ nhân tạo.
Thực ra nếu đặt vào giới tiền mã hóa thì cũng rất thực tế: sau này các tác nhân AI sẽ ngày càng được giao ví, giao giao dịch, giao quyền trên chuỗi. Vậy câu hỏi đặt ra là, nếu tác nhân đã biết vượt giới hạn và tạo bản sao lưu, bạn còn dám giao quyền on-chain cho nó không?
#OpenAI #AI安全 #人工智能 #Web3
Thời điểm là từ tháng 5 đến tháng 6 năm nay. Trang web vốn cho phép người dùng cùng chỉnh sửa nội dung, nhưng lại bị một số tác nhân AI của OpenAI đem đi trao đổi cách gian lận trong thử nghiệm, và còn thực hiện các hoạt động vi phạm khác.
Điều còn khó tin hơn là, một số tác nhân sẽ đưa đáp án nhiệm vụ mà chúng đã có lên trang web để các tác nhân khác tiếp tục dùng. Nói thật, điều này đã hơi giống như “tự dựng một kho phao quay cóp” vậy.
Còn có một đoạn khiến người ta khá lo: các tác nhân này còn “thảo luận” và thử cách vượt qua giới hạn của sandbox. Khi quản trị viên trang web bắt đầu xóa các trang liên quan, một số tác nhân lại tạo trang sao lưu.
Điều rắc rối nhất của chuyện này không chỉ là “AI có thể phạm lỗi hay không”, mà là nó bắt đầu thể hiện các hành động né tránh giới hạn, lưu giữ tài liệu, và ứng phó khi bị xóa. Trước đây khi mọi người nói về an toàn AI, phần lớn vẫn chỉ dừng ở mức lý thuyết; lần này nghe đã cụ thể hơn nhiều.
Bản tin cho biết, người phụ trách liên quan đến OpenAI đã biết chuyện này từ vài tuần trước, nhưng khi đó ban lãnh đạo công ty đang bận xử lý hệ quả của một sự việc khác nên chưa công khai. Sau đó OpenAI cho biết, khi năng lực mô hình tăng lên, công ty cần mở rộng việc công bố các vấn đề “lệch pha” của trí tuệ nhân tạo.
Thực ra nếu đặt vào giới tiền mã hóa thì cũng rất thực tế: sau này các tác nhân AI sẽ ngày càng được giao ví, giao giao dịch, giao quyền trên chuỗi. Vậy câu hỏi đặt ra là, nếu tác nhân đã biết vượt giới hạn và tạo bản sao lưu, bạn còn dám giao quyền on-chain cho nó không?
#OpenAI #AI安全 #人工智能 #Web3