Thử nghiệm bản thân một chút.

Mục tiêu: sử dụng dữ liệu sức khỏe và du lịch cá nhân của tôi để đưa ra các khuyến nghị cá nhân hóa về chế độ ăn và tập luyện cho tôi, dùng các mô hình tiên tiến nhưng theo cách tránh làm lộ cho họ bất kỳ thông tin riêng tư nào.

Chiến lược: dùng một mô hình cục bộ (Qwen 3.8 Flash Next) để điều phối, và dùng các mô hình từ xa mạnh mẽ như một lệnh gọi công cụ để tận dụng tư duy và kiến thức cấp cao mà mô hình cục bộ không có.

Cách tiếp cận ba lớp để bảo vệ quyền riêng tư:

Tránh rò rỉ thông tin nhận dạng cá nhân, hoặc rò rỉ danh tính của tôi qua phong cách viết —> mô hình cục bộ viết các truy vấn cho mô hình tuyến đầu, không phải tôi
Tránh rò rỉ danh tính của tôi qua kênh thanh toán —> zkAPI
Tránh rò rỉ danh tính của tôi qua mạng / IP —> Tor

Bạn cần cả ba (và cuối cùng chúng tôi đã có đủ cả ba, ít nhất là ở một mức độ nào đó)

Một tệp kỹ năng dạy cho mô hình cục bộ khi nào và cách xây dựng các yêu cầu chỉ tiết lộ dữ liệu ở mức tối thiểu cho các mô hình từ xa. Dùng zkAPI được bọc-with-Tor như một công cụ CLI.

Và mọi thứ đều hoạt động! Tôi nhận được các khuyến nghị; thông tin từ các mô hình tuyến đầu đã giúp cải thiện chúng.

Những điểm còn thiếu chính:

* Tor thực sự không được tối ưu cho việc tách liên kết yêu cầu theo từng lượt (request-by-request), là hình thức bảo mật ở tầng mạng duy nhất thực sự có ý nghĩa trong thế giới ngày nay (các định danh chạy dài quá mong manh). Có lẽ chưa đủ riêng tư, và độ trễ cao hơn 10–100 lần so với mức có thể.
* Các chiến lược xây dựng yêu cầu của tệp kỹ năng chắc chắn còn lâu mới tối ưu.
* Qwen 3.8 Flash Next vẫn còn hơi chậm so với sự thoải mái. Nó chạy ổn định ở khoảng 20–30 TPS, nhưng chỉ thực sự cảm thấy nhanh khi đạt 100+
* Có một sự đánh đổi: càng cẩn thận về việc bạn cung cấp dữ liệu gì cho một mô hình từ xa, thì nó càng ít có thể giúp bạn

https://github.com/ethereum/zkapi/pull/16/changes