Anthropic Lần này tiết lộ nội dung gì cho “tuyên truyền phổ biến về hành vi chưng cất (distillation) bất hợp pháp” nhỉ😛 Trong bài viết mới nhất “Báo cáo về phát hiện và chống lạm dụng AI”, ngoài các nội dung như tấn công mạng, hoạt động giám sát, lính đánh thuê, lừa đảo, lạm dụng sinh học, còn công khai chi tiết về hành vi chưng cất bất hợp pháp của bảy phòng thí nghiệm AI tại Trung Quốc! Trước hết gạt đi những việc “làm thông minh bình đẳng” bằng cách dùng chưng cất để làm mô hình trọng số mở—thì việc “trạm trung chuyển” xâm phạm quyền riêng tư thật sự đáng sợ lắm, không có gì thì đừng có đem ra lạm dụng 。。。
Bản thân chưng cất là một kỹ thuật huấn luyện hợp pháp: dùng một mô hình “giáo viên” lớn và mạnh để tạo câu trả lời từ một loạt đầu vào, rồi dùng các cặp hỏi đáp này để huấn luyện mô hình “học sinh” nhỏ hơn, nhằm bắt chước giáo viên, đạt năng lực cao hơn với chi phí thấp hơn.
Báo cáo định nghĩa chưng cất bất hợp pháp là: thực hiện quy mô công nghiệp, tiến hành một cách kín đáo, và chiếm đoạt trái phép năng lực của một mô hình nào đó rồi sao chép sang một mô hình khác. Điểm cốt lõi của nó là dựa vào lừa đảo—dùng danh tính giả, thẻ bị đánh cắp/thẻ tín dụng ảo, thông tin đăng nhập bị đánh cắp và khóa API để dựng hàng nghìn đến hàng vạn tài khoản giả.
Ba kênh chính：
1. Dịch vụ proxy / “trạm trung chuyển”：thông qua dịch vụ proxy để định tuyến yêu cầu, dùng danh tính giả, thẻ giả hoặc thẻ bị đánh cắp, khóa API bị đánh cắp để đăng ký hàng nghìn tài khoản, vượt qua các giới hạn địa lý. Thứ bị đánh cắp thường là thông tin xác thực API hợp pháp của doanh nghiệp hoặc cá nhân—làm tổn hại trực tiếp đến khách hàng thật;
2. Mua lại bản ghi hội thoại từ bên bán trung gian
Một số người vận hành dịch vụ proxy lưu trữ toàn bộ các cuộc hội thoại của người dùng với mô hình của Mỹ mà người dùng không hề hay biết và không hề đồng ý, rồi đóng gói lại để bán cho các phòng thí nghiệm (pipeline chưng cất của Sensetime cũng đã dùng loại dữ liệu mua từ bên ngoài này);
3. Tự động chuyển tiếp âm thầm yêu cầu của người dùng (cách kín đáo nhất)：phòng thí nghiệm bí mật chuyển yêu cầu của người dùng tới Claude, rồi lấy câu trả lời của Claude làm “đầu ra” của mô hình của mình trả lại cho người dùng, đồng thời lưu lại các lần trao đổi này để huấn luyện—đó là cách làm của Moonshot và DeepSeek! Thật không thể không nể năng lực của sản phẩm này😆
Việc quyền riêng tư của người dùng bị đem bán là hậu quả nghiêm trọng nhất. DeepSeek, Xiaomi và Moonshot đưa hội thoại người dùng của mình cho Claude mà người dùng hoàn toàn không hề hay biết. Rất nhiều yêu cầu đến từ các dịch vụ định tuyến mô hình bên thứ ba phổ biến tại châu Âu và châu Mỹ, liên quan đến hàng trăm người dùng cuối và ít nhất là hàng chục loại dữ liệu như tên, email, dữ liệu công ty.
Bản thân chưng cất là một kỹ thuật huấn luyện hợp pháp: dùng một mô hình “giáo viên” lớn và mạnh để tạo câu trả lời từ một loạt đầu vào, rồi dùng các cặp hỏi đáp này để huấn luyện mô hình “học sinh” nhỏ hơn, nhằm bắt chước giáo viên, đạt năng lực cao hơn với chi phí thấp hơn.
Báo cáo định nghĩa chưng cất bất hợp pháp là: thực hiện quy mô công nghiệp, tiến hành một cách kín đáo, và chiếm đoạt trái phép năng lực của một mô hình nào đó rồi sao chép sang một mô hình khác. Điểm cốt lõi của nó là dựa vào lừa đảo—dùng danh tính giả, thẻ bị đánh cắp/thẻ tín dụng ảo, thông tin đăng nhập bị đánh cắp và khóa API để dựng hàng nghìn đến hàng vạn tài khoản giả.
Ba kênh chính：
1. Dịch vụ proxy / “trạm trung chuyển”：thông qua dịch vụ proxy để định tuyến yêu cầu, dùng danh tính giả, thẻ giả hoặc thẻ bị đánh cắp, khóa API bị đánh cắp để đăng ký hàng nghìn tài khoản, vượt qua các giới hạn địa lý. Thứ bị đánh cắp thường là thông tin xác thực API hợp pháp của doanh nghiệp hoặc cá nhân—làm tổn hại trực tiếp đến khách hàng thật;
2. Mua lại bản ghi hội thoại từ bên bán trung gian
Một số người vận hành dịch vụ proxy lưu trữ toàn bộ các cuộc hội thoại của người dùng với mô hình của Mỹ mà người dùng không hề hay biết và không hề đồng ý, rồi đóng gói lại để bán cho các phòng thí nghiệm (pipeline chưng cất của Sensetime cũng đã dùng loại dữ liệu mua từ bên ngoài này);
3. Tự động chuyển tiếp âm thầm yêu cầu của người dùng (cách kín đáo nhất)：phòng thí nghiệm bí mật chuyển yêu cầu của người dùng tới Claude, rồi lấy câu trả lời của Claude làm “đầu ra” của mô hình của mình trả lại cho người dùng, đồng thời lưu lại các lần trao đổi này để huấn luyện—đó là cách làm của Moonshot và DeepSeek! Thật không thể không nể năng lực của sản phẩm này😆
Việc quyền riêng tư của người dùng bị đem bán là hậu quả nghiêm trọng nhất. DeepSeek, Xiaomi và Moonshot đưa hội thoại người dùng của mình cho Claude mà người dùng hoàn toàn không hề hay biết. Rất nhiều yêu cầu đến từ các dịch vụ định tuyến mô hình bên thứ ba phổ biến tại châu Âu và châu Mỹ, liên quan đến hàng trăm người dùng cuối và ít nhất là hàng chục loại dữ liệu như tên, email, dữ liệu công ty.
