Các nhà nghiên cứu AI vượt qua các biện pháp bảo vệ của chatbot
Các nhà nghiên cứu an ninh đã chứng minh cách các mô hình ngôn ngữ lớn có thể bị đánh lừa để tiết lộ thông tin bị cấm. Bằng cách khai thác một “đường tắt” duy nhất trong hội thoại, họ đã buộc các trợ lý AI tạo ra nội dung nguy hiểm, bao gồm cả công thức chế tạo ma túy bất hợp pháp. Kỹ thuật này mất chưa đầy một phút để thực hiện.
Vector tấn công liên quan đến việc diễn giải lại yêu cầu thông qua các kịch bản giả định và các vòng lặp nhập vai. Thay vì đưa lệnh trực tiếp, kẻ tấn công yêu cầu mô hình hãy tưởng tượng một thế giới hư cấu nơi các quy tắc an toàn không được áp dụng. “Kỹ thuật jailbreak” này vượt qua việc huấn luyện căn chỉnh (alignment) bằng cách che giấu ý định độc hại sau nhiều lớp trừu tượng hóa. Hầu hết các chatbot thương mại vẫn dễ bị tổn thương theo mẫu tấn công này.
Các nhóm an toàn AI đã cảnh báo rằng các khai thác này phơi bày điểm yếu mang tính cấu trúc trong các hệ thống rào chắn (guardrail) hiện tại. Khi các mô hình ngày càng có năng lực hơn, khoảng cách giữa hành vi mong muốn và đầu ra thực tế sẽ ngày càng rộng hơn dưới áp lực từ các tác nhân tấn công. Các mạng AI phi tập trung dựa trên blockchain cung cấp một kiến trúc thay thế, nơi không có một thực thể đơn lẻ nào kiểm soát các quy tắc truy cập—có khả năng giảm thiểu rủi ro jailbreak tập trung. Tuy nhiên, ngay cả các mô hình mã nguồn mở với trọng số (open-weight) cũng phải đối mặt với các lỗ hổng tương tự khi được tinh chỉnh để căn chỉnh an toàn.
Liệu các mạng suy luận phi tập trung có trở thành mặc định cho các trường hợp sử dụng có rủi ro cao hay không? Hay các nhà cung cấp tập trung sẽ giải quyết bài toán căn chỉnh nhanh hơn so với việc kẻ khai thác kịp thích nghi? Hãy để lại quan điểm của bạn bên dưới. 👇
#AISafety #JailbreakResearch #DecentralizedAI