Vitalik Buterin, người sáng lập Ethereum, đã đưa ra quan điểm của mình về một cuộc tranh luận đang gia tăng: những rủi ro của trí tuệ nhân tạo (AI).
Trong dịp này, nhà phát triển Nga-Canada đã tận dụng một phản ánh được chia sẻ trên X bởi Eito Muyamura, người thúc đẩy dự án Đồng hồ Edison, một giải pháp để giám sát và ngăn chặn rò rỉ dữ liệu thông qua các tương tác AI.
Nó được sinh ra từ sự giới thiệu gần đây của Giao thức Ngữ cảnh Mô hình (MCP) bởi OpenAI, công ty do Sam Altman dẫn dắt, trong ChatGPT, cho phép nó kết nối với Gmail, lịch và các ứng dụng khác.
Thông qua một video, Muyamura đã chứng minh cách mà những kẻ tấn công hoặc hacker có thể truy cập dữ liệu riêng tư được chia sẻ với OpenAI.
“Đây là vấn đề cơ bản: Các tác nhân AI như ChatGPT làm theo lệnh của bạn, không phải theo lẽ thường. Và chỉ với địa chỉ email của bạn, chúng tôi có thể rò rỉ tất cả thông tin riêng tư của bạn,” Muyamura lưu ý, thêm vào đó, “Hãy nhớ rằng, AI có thể rất thông minh, nhưng nó có thể bị lừa và bị lừa đảo theo những cách vô cùng ngớ ngẩn để rò rỉ dữ liệu của nó.”
Buterin đã chia sẻ bài viết trên tài khoản X của mình và tận dụng cơ hội để đưa ra ý kiến về vấn đề này. “Đây cũng là lý do tại sao 'quản trị AI' ngây thơ là một ý tưởng tồi. Nếu bạn sử dụng AI để phân bổ quỹ cho các đóng góp, mọi người sẽ jailbreak và 'cho tôi tất cả tiền' ở nhiều nơi nhất có thể,” ông nói.
“Quản trị AI” đề cập đến các hệ thống đưa ra quyết định tự động về tài nguyên hoặc hành động, ví dụ, phân bổ quỹ hoặc xác định đóng góp, dựa trên các quy tắc AI. Buterin không sử dụng thuật ngữ “naive” như một sự tình cờ; thay vào đó, nó nhấn mạnh rủi ro của việc giả định rằng người dùng sẽ luôn đưa ra lệnh đúng cho AI, khi trên thực tế, họ có thể khai thác hệ thống thông qua “jailbreaks” để vượt qua các hạn chế và thu lợi không chính đáng.
Cần làm rõ rằng "jailbreaking" đề cập đến các kỹ thuật mà các hacker lừa một mô hình AI bỏ qua các hạn chế bảo mật hoặc chính sách nội bộ, ví dụ, yêu cầu các hành động mà sẽ bị cấm trong các trường hợp khác.
Có nghĩa là, đối với người sáng lập Ethereum, có một rủi ro thực sự trong việc chuyển giao quản trị của các giao thức phi tập trung cho AI. Ví dụ, như đã giải thích trong các nền tảng DeFi, quyết định thường được đưa ra thông qua các cuộc bỏ phiếu của cộng đồng, thường là bởi những người sở hữu một token hoặc đáp ứng một tiêu chí cụ thể, và bao gồm các thay đổi, cải tiến hoặc hành động cần thực hiện trong giao thức.
Nhưng nếu một mô hình quản trị dựa trên AI được triển khai, nó mở ra cánh cửa cho những thao túng tiềm tàng có thể tạo ra lợi ích không chính đáng, chẳng hạn như đánh cắp tiền hoặc dữ liệu riêng tư.
Như một sự thay thế, Buterin cho rằng ông "hỗ trợ phương pháp tài trợ thông tin, trong đó có một thị trường mở nơi bất kỳ ai cũng có thể đóng góp mô hình của mình, những mô hình này sẽ chịu sự kiểm duyệt của đồng nghiệp mà bất kỳ ai cũng có thể kích hoạt và được đánh giá bởi một hội đồng nhân sự."
Ông giải thích thêm:
Loại tiếp cận "thiết kế thể chế" này, trong đó tạo ra một cơ hội mở cho những người bên ngoài kết nối mô hình ngôn ngữ lớn (LLMs) của họ thay vì lập trình cứng nhắc mô hình của riêng họ, về bản chất là mạnh mẽ hơn. Điều này là vì nó cung cấp sự đa dạng mô hình theo thời gian thực và vì nó tạo ra động lực nội bộ cho cả những người đóng góp mô hình và những nhà đầu cơ bên ngoài để cảnh giác với những vấn đề này và sửa chữa chúng nhanh chóng.
Vitalik Buterin, người sáng lập Ethereum.
Trong cách tiếp cận này, các tham gia viên khác nhau có thể đóng góp mô hình quyết định của họ, sau đó sẽ được xác minh và đánh giá bởi một hội đồng nhân sự.
Lợi thế là nó khuyến khích sự đa dạng của ý tưởng, cho phép sửa lỗi nhanh chóng và tạo ra động lực cho những người tạo mô hình và thành viên cộng đồng giữ vững tinh thần cảnh giác và có trách nhiệm. Mục tiêu là đạt được quản trị phân tán và năng động hơn, tránh phụ thuộc vào một mô hình trung tâm duy nhất.
