Haciendo un pequeño experimento personal.
Objetivo: usar mis datos personales de salud y viajes para proporcionar recomendaciones personalizadas de dieta y ejercicio para mí, usando modelos de vanguardia pero de una manera que evite que se les filtre a ellos cualquier información privada.
Estrategia: usar un modelo local (Qwen 3.8 Flash Next) para orquestar, y usar modelos remotos potentes como una llamada a herramienta para beneficiarme de razonamiento y conocimiento de nivel superior que el modelo local no tiene.
Enfoque de tres capas para la privacidad:
Evitar filtrar información personalmente identificable, o filtrar mi identidad mediante el estilo de escritura -> el modelo local escribe las consultas al modelo de vanguardia, no yo
Evitar filtrar quién soy a través del canal de pago -> zkAPI
Evitar filtrar quién soy a través de la red / IP -> Tor
Necesitas las tres (y finalmente tenemos las tres, al menos en cierta medida)
Un archivo de habilidades enseña al modelo local cuándo y cómo construir solicitudes mínimamente reveladoras de datos para modelos remotos. Usar zkAPI envuelto con Tor como una herramienta CLI.
¡Y todo funciona! Recibí las recomendaciones; la información de los modelos de vanguardia ayudó a mejorarlas.
Principales deficiencias:
* Tor no está realmente optimizado para la desvinculación de solicitudes de forma individual, que es la única forma de privacidad a nivel de red que realmente tiene sentido en el mundo de hoy (los identificadores de larga duración son demasiado frágiles). Probablemente no es lo bastante privado y, al mismo tiempo, la latencia es 10-100 veces mayor de lo que podría ser.
* Las estrategias de construcción de solicitudes del archivo de habilidades definitivamente están lejos de ser óptimas.
* Qwen 3.8 Flash Next todavía es demasiado lento para la comodidad. Funciona sin problema a 20-30 TPS, pero solo empezaría a sentirse rápido a 100+
* Hay un equilibrio: cuanto más cuidado seas con los datos que le das a un modelo remoto, menos puede ayudarte
https://github.com/ethereum/zkapi/pull/16/changes
Objetivo: usar mis datos personales de salud y viajes para proporcionar recomendaciones personalizadas de dieta y ejercicio para mí, usando modelos de vanguardia pero de una manera que evite que se les filtre a ellos cualquier información privada.
Estrategia: usar un modelo local (Qwen 3.8 Flash Next) para orquestar, y usar modelos remotos potentes como una llamada a herramienta para beneficiarme de razonamiento y conocimiento de nivel superior que el modelo local no tiene.
Enfoque de tres capas para la privacidad:
Evitar filtrar información personalmente identificable, o filtrar mi identidad mediante el estilo de escritura -> el modelo local escribe las consultas al modelo de vanguardia, no yo
Evitar filtrar quién soy a través del canal de pago -> zkAPI
Evitar filtrar quién soy a través de la red / IP -> Tor
Necesitas las tres (y finalmente tenemos las tres, al menos en cierta medida)
Un archivo de habilidades enseña al modelo local cuándo y cómo construir solicitudes mínimamente reveladoras de datos para modelos remotos. Usar zkAPI envuelto con Tor como una herramienta CLI.
¡Y todo funciona! Recibí las recomendaciones; la información de los modelos de vanguardia ayudó a mejorarlas.
Principales deficiencias:
* Tor no está realmente optimizado para la desvinculación de solicitudes de forma individual, que es la única forma de privacidad a nivel de red que realmente tiene sentido en el mundo de hoy (los identificadores de larga duración son demasiado frágiles). Probablemente no es lo bastante privado y, al mismo tiempo, la latencia es 10-100 veces mayor de lo que podría ser.
* Las estrategias de construcción de solicitudes del archivo de habilidades definitivamente están lejos de ser óptimas.
* Qwen 3.8 Flash Next todavía es demasiado lento para la comodidad. Funciona sin problema a 20-30 TPS, pero solo empezaría a sentirse rápido a 100+
* Hay un equilibrio: cuanto más cuidado seas con los datos que le das a un modelo remoto, menos puede ayudarte
https://github.com/ethereum/zkapi/pull/16/changes
