Lo que más me ha frustrado de usar IA en estos dos años es que nunca puedo verificar las respuestas, hasta que vi que OpenGradient sacó una prueba criptográfica cada vez que hace una inferencia, y finalmente sentí que alguien se atrevía a abrir esa caja negra.
Lo he sentido en carne propia. Hace poco, utilicé un modelo popular para verificar la conformidad, la respuesta sonaba convincente, pero al revisar algunas citas, dos de cada tres eran inventadas por el mismo modelo; cambié de cuenta y volví a hacer la misma pregunta, y la respuesta cambió, el modelo no me dice si ha cambiado en secreto. La caja negra no solo afecta la privacidad, sino que también afecta si la respuesta que obtienes es realmente la que esperabas de ese modelo en el entorno que creías que estaba funcionando. $RE
Para hacer una comparación, la IA popular es como un taxi sin cámara de seguridad, depende de ti imaginar si el conductor se desvió; si tiene la cámara, puedes rastrear cada kilómetro. Lo que hace OpenGradient es ponerle una cámara al AI, cada inferencia viene con una prueba criptográfica, quién, qué modelo, en qué entorno, y qué resultado, cualquiera puede verificarlo de forma independiente, sin necesidad de confiar en la palabra del proveedor.
Antes pensaba que la verificabilidad era solo una obsesión de ingenieros, sin valor para el usuario. Después de revisar datos públicos, corregí mi perspectiva: más de 2 millones de inferencias verificables, más de 500 mil pruebas criptográficas, cubriendo más de 2 millones de usuarios, esto no es un demo, es tráfico real que ya ha sido procesado. La IA verificable ha alcanzado por primera vez un volumen de consumo, ya no es un juguete zk en un artículo académico.
No estoy asumiendo la responsabilidad por ello. Cada prueba tiene un costo computacional, cuando el zk se amplía a miles de millones de inferencias, la curva de costos aún no se ha ajustado; la prueba solo puede garantizar que el modelo realmente operó, no respalda que el modelo no esté mintiendo, abrir la caja negra es un paso, pero si dentro hay un estafador es otra cosa; en la fase de testnet, cuando el sistema de pruebas se actualiza, algunas propiedades de la versión anterior cambiarán.
Las cosas que quiero ver son bastante directas. Quiero ver si el costo end-to-end de este sistema de pruebas de OpenGradient puede reducirse más después de que se lance la mainnet, quiero ver si una herramienta de verificación independiente puede obtener resultados consistentes con los oficiales, y también quiero ver si algún día una aplicación de IA estará dispuesta a mostrar el hash de cada prueba de salida directamente en la interfaz para que el usuario lo vea. Hasta que estas cosas estén en su lugar, abrir la caja negra es algo bueno, pero qué hay dentro, aún tengo que revisarlo. $HEI
#opg $OPG @OpenGradient