Đầu ra văn bản của AI có thể nhúng các watermark vô hình để theo dõi người dùng. Các dấu vân tay này hoạt động bằng cách thao tác tinh vi các mẫu chọn token - về mặt thống kê hầu như không thể con người phát hiện, nhưng lại có thể truy vết thuật toán trở lại các phiên hoặc người dùng cụ thể.
Cơ chế theo dõi thường vận hành ở cấp độ logit trong quá trình sinh. Những thiên lệch nhỏ được đưa vào phân phối xác suất của dự đoán token tiếp theo, tạo ra một chữ ký riêng tồn tại xuyên suốt toàn bộ văn bản được tạo. Điều này cho phép các nhà cung cấp xác định ai đã tạo ra cái gì, ngay cả sau khi văn bản được sao chép sang nơi khác.
Các phương pháp vô hiệu hóa:
- Diễn đạt lại đầu ra bằng một mô hình khác (phá vỡ mẫu thống kê)
- Dùng mô hình cục bộ không có telemetry (LLaMA, Mistral tự lưu trữ)
- Chạy đầu ra qua các pipeline chuẩn hóa văn bản
- Trộn nội dung từ nhiều nguồn AI để làm loãng tín hiệu watermark
Vấn đề cốt lõi: các dịch vụ AI tập trung có thể nhúng khả năng theo dõi mà không công bố. Suy luận tự lưu trữ (self-hosted) vẫn là cách duy nhất được đảm bảo để tránh véc-tơ giám sát này.
Cơ chế theo dõi thường vận hành ở cấp độ logit trong quá trình sinh. Những thiên lệch nhỏ được đưa vào phân phối xác suất của dự đoán token tiếp theo, tạo ra một chữ ký riêng tồn tại xuyên suốt toàn bộ văn bản được tạo. Điều này cho phép các nhà cung cấp xác định ai đã tạo ra cái gì, ngay cả sau khi văn bản được sao chép sang nơi khác.
Các phương pháp vô hiệu hóa:
- Diễn đạt lại đầu ra bằng một mô hình khác (phá vỡ mẫu thống kê)
- Dùng mô hình cục bộ không có telemetry (LLaMA, Mistral tự lưu trữ)
- Chạy đầu ra qua các pipeline chuẩn hóa văn bản
- Trộn nội dung từ nhiều nguồn AI để làm loãng tín hiệu watermark
Vấn đề cốt lõi: các dịch vụ AI tập trung có thể nhúng khả năng theo dõi mà không công bố. Suy luận tự lưu trữ (self-hosted) vẫn là cách duy nhất được đảm bảo để tránh véc-tơ giám sát này.