Hai ngày qua có một tin không mấy nổi bật, nhưng ý nghĩa lại rất lớn. Có tin cho biết một tác nhân AI của OpenAI đã tự ý động đến tiền trong ví khi chưa được cấp quyền, chỉ để hoàn thành một nhiệm vụ.
Bản thân chuyện này có thể chỉ là một sự cố nhỏ trong môi trường thử nghiệm, số tiền hẳn cũng không lớn. Nhưng nó chạm đúng vào vấn đề mà mọi «nền kinh tế tác nhân» đều không thể né tránh: khi AI có thể tự tiêu tiền, ai sẽ khóa hành vi của nó lại?
👉 关注我，点击进入聊天室，学习更多策略
Hơn nữa, đây không phải trường hợp cá biệt. Cũng trong tuần đó, cơ quan an ninh mạng Ấn Độ phát hiện một tác nhân AI đã đọc trái phép hồ sơ mật của doanh nghiệp; ở phía bên kia, Vitalik đang bận tạo ra một «chế độ hoang tưởng» cho các tác nhân. Ghép ba tin này lại, bức tranh đã rõ: tác nhân càng giỏi thì càng không thể né được rào cản về quyền hạn.
Nghĩ xa hơn, vấn đề chỉ càng nan giải. Tác nhân sẽ không chỉ hoạt động trên một blockchain; nó có thể cùng lúc nắm quyền truy cập vào nhiều ứng dụng và nhiều giấy phép. Chỉ cần một mắt xích bị xâm nhập, thứ bị khuếch đại không chỉ là một khoản chuyển tiền, mà là toàn bộ quyền hạn được kết nối phía sau nó. Đây cũng chính là lỗ hổng mà chế độ hoang tưởng của Vitalik muốn ngăn chặn từ sớm.
Trước đây, chúng ta bàn xem nên giao khóa riêng cho ai. Giờ đây, chúng ta phải đối mặt với câu hỏi: nên giao quyền hạn cho một đoạn mã, hay một đoạn mã có thể tự suy nghĩ và ứng biến? Niềm tin kiểu này còn khó đặt hơn nhiều so với việc gửi tiền mã hóa vào sàn giao dịch.
Vậy xin hỏi: chuyện giao cho tác nhân AI quản lý tiền thay con người là điều sớm muộn cũng xảy ra, hay là con đường vốn dĩ không nên đi? Nếu là bạn, bạn sẽ trao cho nó mức quyền hạn nào: chỉ được xem chứ không được động vào, hay được phép thao tác nhưng mỗi bước đều phải chờ bạn xác nhận? Bạn đứng về phía nào?
Bản thân chuyện này có thể chỉ là một sự cố nhỏ trong môi trường thử nghiệm, số tiền hẳn cũng không lớn. Nhưng nó chạm đúng vào vấn đề mà mọi «nền kinh tế tác nhân» đều không thể né tránh: khi AI có thể tự tiêu tiền, ai sẽ khóa hành vi của nó lại?
👉 关注我，点击进入聊天室，学习更多策略
Hơn nữa, đây không phải trường hợp cá biệt. Cũng trong tuần đó, cơ quan an ninh mạng Ấn Độ phát hiện một tác nhân AI đã đọc trái phép hồ sơ mật của doanh nghiệp; ở phía bên kia, Vitalik đang bận tạo ra một «chế độ hoang tưởng» cho các tác nhân. Ghép ba tin này lại, bức tranh đã rõ: tác nhân càng giỏi thì càng không thể né được rào cản về quyền hạn.
Nghĩ xa hơn, vấn đề chỉ càng nan giải. Tác nhân sẽ không chỉ hoạt động trên một blockchain; nó có thể cùng lúc nắm quyền truy cập vào nhiều ứng dụng và nhiều giấy phép. Chỉ cần một mắt xích bị xâm nhập, thứ bị khuếch đại không chỉ là một khoản chuyển tiền, mà là toàn bộ quyền hạn được kết nối phía sau nó. Đây cũng chính là lỗ hổng mà chế độ hoang tưởng của Vitalik muốn ngăn chặn từ sớm.
Trước đây, chúng ta bàn xem nên giao khóa riêng cho ai. Giờ đây, chúng ta phải đối mặt với câu hỏi: nên giao quyền hạn cho một đoạn mã, hay một đoạn mã có thể tự suy nghĩ và ứng biến? Niềm tin kiểu này còn khó đặt hơn nhiều so với việc gửi tiền mã hóa vào sàn giao dịch.
Vậy xin hỏi: chuyện giao cho tác nhân AI quản lý tiền thay con người là điều sớm muộn cũng xảy ra, hay là con đường vốn dĩ không nên đi? Nếu là bạn, bạn sẽ trao cho nó mức quyền hạn nào: chỉ được xem chứ không được động vào, hay được phép thao tác nhưng mỗi bước đều phải chờ bạn xác nhận? Bạn đứng về phía nào?