Cuando estoy en un viaje de negocios me quedo en el hotel; a medianoche no puedo dormir y, de paso, pensé en preguntarle a la IA si es conveniente mover algunas posiciones de cola que tengo en la cartera. En el instante en que abro el cuadro de entrada, retraigo la mano: hacer este tipo de cosas con un modelo público es, en la práctica, copiar y enviar mis tenencias a un backend que no conozco. Así que cambié a la Private Inference de @OpenGradient ; quería entender qué nodos están viendo, pero ni siquiera se ve el contenido en lo que dicen. $AGLD
Dividí la misma duda sobre esa posición en cinco formas de preguntarlo, lo ejecuté dos rondas en Private Inference, devolvieron diez respuestas y las reunieron; además, en el lado del nodo capturé metadatos de la solicitud para contrastar. El resultado fue bastante limpio: el nodo solo ve una porción de carga cifrada y una etiqueta de ruta; el texto en claro que obtiene el modelo solo existe de forma breve dentro del enclave TEE; antes de salir del enclave ya se borra; el enlace de tránsito pasa por Oblivious HTTP y la fuente de la solicitud también queda anonimizad[a].
La conversación pública sobre Private Inference suele quedarse en la perspectiva del usuario: “nadie me espía mis asuntos privados”. OpenGradient, en cambio, realmente está haciendo algo más a un nivel más profundo: convierte una acción que originalmente era inherentemente centralizada —la inferencia— en un cómputo de una sola vez que no puede ser visto ni por los nodos ni por los operadores. El TEE se encarga de la ejecución confiable; Oblivious HTTP corta la identidad; la Verification Layer, después, proporciona pruebas de que la ejecución fue correcta. $VELVET
También cambié las métricas. No me importa cuántas conversaciones privadas ejecuta OpenGradient; lo que me fijo son los datos contrarios al consenso: cuántas solicitudes de inferencia, a lo largo del día, no salen en ningún momento del TEE y, además, qué proporción de ellas genera recibos verificables públicamente. Lo primero es tráfico; lo segundo es la prueba de que realmente está funcionando esta cadena de privacidad.
Si $OPG solo está asumiendo la tarifa de procesamiento de capacidad para una inferencia privada, entonces es más como un token de facturación de ancho de banda cifrado; pero si en el futuro los nodos TEE depositan garantía, la enrutación de privacidad, la emisión de recibos de verificación, las sanciones por infracciones y la compensación por custodia de datos sensibles se conectan en un circuito cerrado a su alrededor, entonces deja de ser un token de cobro y pasa a ser la unidad de garantía de confianza de esa red de cómputo de privacidad.
Sin prisa por sacar conclusiones. La inferencia de privacidad es una vía lenta; hay que hacer que la ruta funcione bien, y eso lleva mucho tiempo. Quiero seguir observando las muestras que entregue OpenGradient en su red principal y en las integraciones posteriores. #opg