Anthropic, la empresa detrás de Claude, lanzó FlashProve, una herramienta que entrega a los clientes un recibo digital para demostrar que una respuesta de IA provino del modelo por el que pagaron.

Conclusiones clave

• Anthropic presentó FlashProve, que puede generar pruebas criptográficas a unos 110 tokens por segundo en una sola H100

• FlashProve generó pruebas para una solicitud de 1.024 tokens con un tamaño de prueba de unos 19 MB

• FlashProve utiliza entre 70 y 95 veces más tiempo de GPU que ejecutar el mismo modelo en vLLM

• FlashProve genera la respuesta y una prueba compacta vinculada al modelo comprometido, que un verificador puede comprobar más rápido que volviendo a ejecutar el modelo completo

Georgios Konstantopoulos publicó información sobre el trabajo. Anthropic desarrolla la familia de modelos Claude, y su propia investigación expuso las cifras y el diseño del sistema.

La inferencia verificable aborda el problema del enrutador oculto: «Provino del modelo»

Anthropic afirmó que los usuarios aún no pueden comprobar fácilmente si una respuesta provino del modelo indicado, de un sustituto más barato o de un flujo de tokens manipulado, y que su sistema de inferencia verificable lo resuelve haciendo que el proveedor del modelo se comprometa con un modelo específico y luego genere una prueba criptográfica de que la respuesta provino del modelo con esos pesos comprometidos.

La investigación se centra en zkSNARKs, un sistema de pruebas que permite a una parte demostrar que un cálculo se realizó correctamente sin revelar todos los datos subyacentes. En este caso, la inferencia verificable confirma que el texto se generó y que lo produjo un modelo específico con pesos específicos.

Anthropic afirmó que FlashProve generó pruebas para una solicitud de 1,024 tokens con un tamaño de prueba de unos 19 MB. Para Llama 4 Maverick, un modelo de mezcla de expertos con 400 mil millones de parámetros, la empresa afirmó que una sola H100 podía generar esas pruebas a unos 110 tokens por segundo.

Lea también: Anthropic paga a profesores para que pongan a prueba Claude en su camino hacia el empleo

La ganancia de velocidad aún tiene un costo

Esas cifras siguen teniendo un costo elevado.

FlashProve utiliza entre 70 y 95 veces más tiempo de GPU que ejecutar el mismo modelo con vLLM, el motor de inferencia de código abierto que muchos desarrolladores usan en producción. Esto significa que la inferencia verificable no es una opción cercana a convertirse en la predeterminada para todo el tráfico de chatbots, sino una alternativa para cargas de trabajo que requieren un alto nivel de confianza, contratos empresariales, sistemas regulados y servicios de IA sensibles a la seguridad, donde la identidad del modelo importa tanto como la velocidad.

Anthropic presentó el trabajo como parte de un conjunto más amplio de herramientas de cumplimiento normativo y seguridad. Sostuvo que, si los laboratorios de IA deben cumplir reglas sobre qué sistemas pueden atender a qué usuarios, las pruebas de inferencia ofrecen a los auditores algo más que la promesa de un panel de control: proporcionan un comprobante criptográfico de que el resultado provino del modelo con el que se comprometió el proveedor.

De las API de «confía en mí» a resultados verificables

La distribución de IA se ha vuelto más compleja: las empresas suelen acceder a los modelos mediante pasarelas, intermediarios y capas de orquestación, en lugar de conectarse directamente al punto de acceso del laboratorio. Esto facilita la sustitución por motivos de control de costos, latencia o ataques. En este ciclo, Anthropic ha añadido funciones empresariales y de seguridad a Claude.

La investigación del martes lleva ese esfuerzo a una capa inferior: pasa de quién puede llamar a un modelo a si el resultado se puede demostrar a posteriori. También hay un componente criptográfico. Los zkSNARKs surgieron de la misma familia de tecnologías que impulsa los sistemas de cadena de bloques que protegen la privacidad, y Anthropic aplica esos mecanismos a la inferencia de IA, en lugar de a las transferencias en cadena.

Cómo FlashProve transforma el registro de auditoría de la IA

FlashProve se sitúa entre la inferencia normal y la verificación formal.

Un cliente envía una instrucción, el modelo la procesa y el sistema emite tanto la respuesta como una prueba compacta vinculada al modelo comprometido. Después, un verificador puede comprobar la prueba mucho más rápido que si volviera a ejecutar el modelo completo, y confirmar que la respuesta provino del modelo sin que cada cliente tenga que alojar un modelo enorme.

Para quienes contratan servicios en la nube, la inferencia verificable importa cuando Anthropic no es la única parte que interviene en la solicitud. A un banco que utiliza Claude mediante un intermediario o a un equipo gubernamental que depende de una pasarela interna quizá le interese menos el estilo que saber si la solicitud la procesó realmente el modelo indicado. FlashProve ofrece a esos clientes una forma técnica de comprobarlo, aunque el costo sigue siendo el principal obstáculo para una adopción más amplia.

Lea a continuación: Anthropic obtiene 23.500 millones de dólares en efectivo antes de su salida a bolsa