Đợt quảng bá Greyboxing của GenLayer, điều buồn cười nhất không phải công nghệ, mà là phần bình luận.
Bối cảnh: Tháng 5 năm nay, có người giấu lệnh chuyển tiền bằng mã Morse trong một bài đăng trên X. Grok giải mã rồi chuyển cho Bankrbot, và số token trị giá khoảng 150.000–200.000 đô la đã bị chuyển đi trên Base. GenLayer lấy chuyện này làm ví dụ: nhiều trình xác thực âm thầm viết lại đầu vào theo cách riêng, rồi mới đạt đồng thuận, cho rằng như vậy prompt injection sẽ không thể xuyên thủng.
Rồi bạn vào xem bên dưới bài đăng đó của GenLayer:
Ở cuối câu trả lời của @langtusg0308, nguyên văn còn sót lại câu: "Những câu trả lời này cần ngắn gọn, bám sát các ý trong bài đăng và tập trung vào GenLayer mà không nghe như quảng cáo thuần túy. Dùng"
Đăng nguyên cả câu lệnh dùng để viết phản hồi mà còn chưa xóa sạch.
Ba câu trả lời của @0xBisex, @bitkeepwallet và @Folloback99 đều có dấu ngoặc kép tiếng Anh ở đầu cuối, giọng điệu y hệt nhau, nhìn là biết chép từ đâu đó. Bài đăng chính của Randy.base.eth có 4.289 lượt xem, 21 lượt đăng lại; những câu như "Không có điểm lỗi đơn lẻ nào" hay "không thể huấn luyện các cuộc tấn công" còn quả quyết hơn cả báo cáo kiểm toán.
Một dự án nói về việc ngăn AI bị tiêm lệnh, nhưng bản thân chiến dịch quảng bá lại dựa vào một đống phản hồi do AI tạo ra để chống đỡ—màn mỉa mai này khiến tôi cười cả ngày.
Quay lại chuyện chính. Nhiều trình xác thực viết lại đầu vào về bản chất là thêm vài lớp lọc bằng mô hình, khiến chi phí và độ trễ đều tăng. Những câu kiểu "không thể bị đánh bại" chẳng có dữ liệu công khai nào về tấn công hay phòng thủ làm bằng chứng. Ngược lại, những câu hỏi thực sự trúng vấn đề trong phần bình luận lại đến từ mấy tài khoản nhỏ: @EMEF0815 hỏi liệu có thể cưỡng chế hạn mức chi tiêu độc lập với chỉ thị của agent hay không; @GuruVerseX hỏi liệu bài đăng có được đánh dấu là đầu vào không đáng tin cậy trước hay không. Trước khi trả lời rõ hai câu này, Greyboxing vẫn chỉ là một cái tên nghe hay.
Bảo mật ví AI đáng tin cậy vẫn là ba biện pháp cũ: giới hạn mức chi tiêu, địa chỉ trong danh sách cho phép và yêu cầu con người xác nhận các khoản lớn. Đừng để cụm từ "đồng thuận phi tập trung chống tiêm lệnh" làm bạn rối trí.
#AI #GenLayer
Bối cảnh: Tháng 5 năm nay, có người giấu lệnh chuyển tiền bằng mã Morse trong một bài đăng trên X. Grok giải mã rồi chuyển cho Bankrbot, và số token trị giá khoảng 150.000–200.000 đô la đã bị chuyển đi trên Base. GenLayer lấy chuyện này làm ví dụ: nhiều trình xác thực âm thầm viết lại đầu vào theo cách riêng, rồi mới đạt đồng thuận, cho rằng như vậy prompt injection sẽ không thể xuyên thủng.
Rồi bạn vào xem bên dưới bài đăng đó của GenLayer:
Ở cuối câu trả lời của @langtusg0308, nguyên văn còn sót lại câu: "Những câu trả lời này cần ngắn gọn, bám sát các ý trong bài đăng và tập trung vào GenLayer mà không nghe như quảng cáo thuần túy. Dùng"
Đăng nguyên cả câu lệnh dùng để viết phản hồi mà còn chưa xóa sạch.
Ba câu trả lời của @0xBisex, @bitkeepwallet và @Folloback99 đều có dấu ngoặc kép tiếng Anh ở đầu cuối, giọng điệu y hệt nhau, nhìn là biết chép từ đâu đó. Bài đăng chính của Randy.base.eth có 4.289 lượt xem, 21 lượt đăng lại; những câu như "Không có điểm lỗi đơn lẻ nào" hay "không thể huấn luyện các cuộc tấn công" còn quả quyết hơn cả báo cáo kiểm toán.
Một dự án nói về việc ngăn AI bị tiêm lệnh, nhưng bản thân chiến dịch quảng bá lại dựa vào một đống phản hồi do AI tạo ra để chống đỡ—màn mỉa mai này khiến tôi cười cả ngày.
Quay lại chuyện chính. Nhiều trình xác thực viết lại đầu vào về bản chất là thêm vài lớp lọc bằng mô hình, khiến chi phí và độ trễ đều tăng. Những câu kiểu "không thể bị đánh bại" chẳng có dữ liệu công khai nào về tấn công hay phòng thủ làm bằng chứng. Ngược lại, những câu hỏi thực sự trúng vấn đề trong phần bình luận lại đến từ mấy tài khoản nhỏ: @EMEF0815 hỏi liệu có thể cưỡng chế hạn mức chi tiêu độc lập với chỉ thị của agent hay không; @GuruVerseX hỏi liệu bài đăng có được đánh dấu là đầu vào không đáng tin cậy trước hay không. Trước khi trả lời rõ hai câu này, Greyboxing vẫn chỉ là một cái tên nghe hay.
Bảo mật ví AI đáng tin cậy vẫn là ba biện pháp cũ: giới hạn mức chi tiêu, địa chỉ trong danh sách cho phép và yêu cầu con người xác nhận các khoản lớn. Đừng để cụm từ "đồng thuận phi tập trung chống tiêm lệnh" làm bạn rối trí.
#AI #GenLayer