😂😂 Estás gastando mucho dinero en un modelo de IA premium, pero ¿cómo puedes estar seguro de que el proveedor no lo está sustituyendo en secreto por una alternativa más barata?

Anthropic ha presentado un proyecto de código abierto llamado FlashProve para abordar este problema con una idea tomada del mundo de las criptomonedas: las pruebas de conocimiento cero (ZKP).

¡El concepto es fascinante! Los proveedores crean una huella digital única para su modelo, y cada respuesta viene acompañada de una prueba criptográfica de que se generó con ese modelo exacto, sin revelar el modelo ni exigir a los usuarios que lo ejecuten por su cuenta.

¡Y aún más interesante: Claude ayudó a desarrollar el proyecto! 🤖

Sin embargo, todavía queda mucho camino por recorrer. Actualmente, las pruebas abarcan solo un token a la vez, y generarlas requiere entre 70 y 95 veces más potencia de cálculo que producir la propia respuesta.

Pero si se superan estas limitaciones, la verificación de modelos de IA podría cambiar las reglas del juego y dificultar mucho más la sustitución oculta de modelos. 🚀

#Anthropic #AI #ZeroKnowledgeProofs #Crypto #ArtificialIntelligence