#零知识证明 Esta noticia tiene su miga 🧐🧐. ¿Y si el modelo de primer nivel por el que se paga una fortuna se hubiera cambiado a escondidas por uno barato en el backend? Ahora Anthropic quiere usar tecnología del mundo cripto para «verificarlo» 🔍
FlashProve, el último proyecto de código abierto de Anthropic, aplica a la inferencia de IA las pruebas de conocimiento cero, habituales en la cadena de bloques.
El proveedor genera primero una huella digital cifrada de los pesos del modelo para dejar constancia de cuál está usando. Después, cada resultado va acompañado de una prueba matemática. El usuario no necesita obtener los pesos ni volver a ejecutar el modelo por su cuenta: puede comprobar si el resultado procede del conjunto de pesos que se había prometido. Al parecer, Claude también participó en el desarrollo y la optimización de este sistema.
Pero todavía falta mucho para que sea práctico: cada prueba solo puede verificar un token de salida, no una respuesta completa; y generar las pruebas requiere entre 70 y 95 veces más potencia de cálculo de GPU que una inferencia normal. Verificar un carácter cuesta decenas de veces más que generarlo; seguramente ningún proveedor querrá pagar eso, jaja. #Anthropic #AI