#opg $OPG Ayer por la noche, mi esposa me preguntó: “¿Qué te hace reír con el móvil? ¿Otra vez estás hablando a lo loco con gente en Twitter?” No me atreví a responder, porque en la pantalla había diez mensajes recién enviados a desconocidos. No es que no me deje chatear, sino que le preocupa que la plataforma escuche y mire en secreto, y algún día alimente nuestros historiales de conversación con algoritmos de anuncios. La verdad, con los años me he acostumbrado a que los datos me vayan desollando; ya estoy harto. Pero después de probar OpenGradient Chat, fue la primera vez que sentí: en la era de la IA, no hace falta andar en cueros; se puede hacer sin eso.
Este sistema de privacidad de este Chat de verdad mete la “privacidad” en el ADN. Separación en tres capas: tú escribes en el navegador y la clave se queda local; cuando el mensaje sale, ya va cifrado. En medio está el reenvío del Oblivious HTTP: solo puede ver tu IP, pero no sabe qué enviaste. Y al llegar a la pasarela aguas abajo, pueden descifrar el contenido pero no obtener tu IP. Al final, todo el trabajo se realiza dentro de un TEE con autenticación remota. Si el equipo del proyecto quiere espiar, no tiene puertas. Identidad y contenido, completamente divorciados.
Pero la privacidad es solo la entrada. El verdadero punto débil de la industria es: si la privacidad está resuelta, ¿qué pasa cuando la capacidad de cómputo se desploma? Antes, la IA en la cadena de bloques: verificar una vez era más caro que volver a ejecutar el modelo. Las cadenas tradicionales logran consenso con “re-ejecución”, haciendo que 100 validadores corran cada uno un modelo grande de 70B. ¡Eso quema la capacidad de cómputo de una forma aterradora y la latencia te saca a patadas! Por eso OpenGradient planteó una arquitectura HACA: separación entre ejecución y verificación. Los nodos de inferencia solo se encargan de ejecutar el modelo; los nodos completos solo se ocupan de verificar la prueba de TEE o de ZKML. Los nodos de verificación ni siquiera necesitan saber qué Prompt usaste: solo comprueban si la prueba es válida o no. La eficiencia se dispara: verificación en milisegundos; da igual que la inferencia subyacente tarde 50 ms o 5 segundos.
“En lo que la IA es más útil, justo es donde los usuarios más no se atreven a escribir.” Esta frase del CEO realmente da en el clavo. Antes chatear sobre el mercado a medianoche era como hacer un robo, porque los datos iban sin protección. Ahora, con esto, aunque me capten en una foto vigilada con las manos volando sobre el teclado, el intermediario solo puede ver una cadena de caracteres sin sentido. La próxima vez que mi esposa revise, puedo pasarle el móvil directamente: “Mira lo que quieras; total, tampoco vas a entender el texto cifrado”.
El proyecto salió del acelerador de a16z: ya conectaron GPT, Claude y Gemini. Hay productos reales, se resuelve una necesidad urgente; eso sí es un activo real. Las fluctuaciones a corto plazo ni las miro; me quedo con ello y veremos en un año. @OpenGradient
Este sistema de privacidad de este Chat de verdad mete la “privacidad” en el ADN. Separación en tres capas: tú escribes en el navegador y la clave se queda local; cuando el mensaje sale, ya va cifrado. En medio está el reenvío del Oblivious HTTP: solo puede ver tu IP, pero no sabe qué enviaste. Y al llegar a la pasarela aguas abajo, pueden descifrar el contenido pero no obtener tu IP. Al final, todo el trabajo se realiza dentro de un TEE con autenticación remota. Si el equipo del proyecto quiere espiar, no tiene puertas. Identidad y contenido, completamente divorciados.
Pero la privacidad es solo la entrada. El verdadero punto débil de la industria es: si la privacidad está resuelta, ¿qué pasa cuando la capacidad de cómputo se desploma? Antes, la IA en la cadena de bloques: verificar una vez era más caro que volver a ejecutar el modelo. Las cadenas tradicionales logran consenso con “re-ejecución”, haciendo que 100 validadores corran cada uno un modelo grande de 70B. ¡Eso quema la capacidad de cómputo de una forma aterradora y la latencia te saca a patadas! Por eso OpenGradient planteó una arquitectura HACA: separación entre ejecución y verificación. Los nodos de inferencia solo se encargan de ejecutar el modelo; los nodos completos solo se ocupan de verificar la prueba de TEE o de ZKML. Los nodos de verificación ni siquiera necesitan saber qué Prompt usaste: solo comprueban si la prueba es válida o no. La eficiencia se dispara: verificación en milisegundos; da igual que la inferencia subyacente tarde 50 ms o 5 segundos.
“En lo que la IA es más útil, justo es donde los usuarios más no se atreven a escribir.” Esta frase del CEO realmente da en el clavo. Antes chatear sobre el mercado a medianoche era como hacer un robo, porque los datos iban sin protección. Ahora, con esto, aunque me capten en una foto vigilada con las manos volando sobre el teclado, el intermediario solo puede ver una cadena de caracteres sin sentido. La próxima vez que mi esposa revise, puedo pasarle el móvil directamente: “Mira lo que quieras; total, tampoco vas a entender el texto cifrado”.
El proyecto salió del acelerador de a16z: ya conectaron GPT, Claude y Gemini. Hay productos reales, se resuelve una necesidad urgente; eso sí es un activo real. Las fluctuaciones a corto plazo ni las miro; me quedo con ello y veremos en un año. @OpenGradient
