Mình đang suy nghĩ về một thứ mà hầu hết mọi người thường bỏ qua khi họ nói về AI riêng tư

Mọi người đều tập trung vào việc liệu công ty có hứa không chia sẻ dữ liệu của bạn hay không. Hầu như không ai hỏi điều gì xảy ra ở cấp độ định tuyến mô hình khi bạn chuyển đổi giữa nhiều mô hình tiên phong trong một phiên

Đây là phần thực sự quan trọng

Khi bạn gửi yêu cầu đến một mô hình AI, danh tính của bạn và tin nhắn của bạn sẽ đi cùng nhau theo mặc định. Hệ thống biết ai đã hỏi gì. Ngay cả khi phản hồi là riêng tư, yêu cầu đó tự nó tạo ra một bản ghi. Chuyển đổi mô hình giữa phiên và bản ghi đó sẽ nhân lên trong các môi trường suy diễn khác nhau

@OpenGradient phải giải quyết vấn đề này theo cách khác

Việc tước bỏ danh tính diễn ra trên thiết bị trước khi yêu cầu rời khỏi. Vì vậy, khi tin nhắn của bạn đến với Claude Fable 5 hoặc Nous Hermes hoặc bất kỳ mô hình hình ảnh nào trong Studio, nút suy diễn nhận được một yêu cầu mà không có nguồn gốc gắn liền với nó. Mô hình trả lời câu hỏi. Nó không bao giờ biết câu hỏi đó của ai

Bây giờ hãy nghĩ về điều đó có ý nghĩa gì ở quy mô lớn. Hàng ngàn yêu cầu liên tục đổ vào nhiều điểm cuối mô hình cùng lúc. Mỗi yêu cầu không có danh tính khi nó đến. Đảm bảo riêng tư không bị suy giảm dưới tải vì nó chưa bao giờ phụ thuộc vào điểm cuối để thực thi

Hầu hết các nền tảng đặt quyền riêng tư ở lớp chính sách. OpenGradient đặt nó ở lớp kiến trúc

Đó là hai vấn đề hoàn toàn khác nhau với hai chế độ thất bại hoàn toàn khác nhau

$OPG #OPG

Bạn nghĩ điều gì sẽ bị phá vỡ đầu tiên trong một hệ thống AI riêng tư dưới tải thực tế?