Je suis tombé sur un billet de recherche d’Anthropic : l’équipe a rendu FlashProve open source — une « preuve vérifiable » du raisonnement d’un grand modèle grâce aux zkSNARK, qui prouve que cette réponse provient bien du jeu de poids annoncé, sans révéler les poids eux-mêmes.
Le point difficile : sur Llama 4 Maverick (environ 400 milliards de paramètres, MoE, 4 bits), une seule H100 génère des preuves à environ 110 tokens/s ; la preuve pour une requête de 1 024 tokens fait environ 19 Mo ; un processeur classique à 24 cœurs peut la vérifier en environ 17 secondes ; le surcoût GPU est d’environ 70 à 95 fois celui de l’inférence avec vLLM. Le code, la preuve formelle en Lean et la documentation du protocole sont tous open source sous licence Apache 2.0.
Il s’agit encore d’un prototype de recherche — pour l’instant, il se limite principalement aux modèles MoE, au décodage glouton en nombres entiers et à un contexte d’environ 1 024 tokens ; l’architecture elle-même n’est pas cachée. Mais le fait que les zk passent de la blockchain à la couche de sortie des modèles rend soudain bien plus concrètes des applications comme l’audit et la vérification du routage.
#zkSNARK #AI #可验证推理 #Anthropic
Le point difficile : sur Llama 4 Maverick (environ 400 milliards de paramètres, MoE, 4 bits), une seule H100 génère des preuves à environ 110 tokens/s ; la preuve pour une requête de 1 024 tokens fait environ 19 Mo ; un processeur classique à 24 cœurs peut la vérifier en environ 17 secondes ; le surcoût GPU est d’environ 70 à 95 fois celui de l’inférence avec vLLM. Le code, la preuve formelle en Lean et la documentation du protocole sont tous open source sous licence Apache 2.0.
Il s’agit encore d’un prototype de recherche — pour l’instant, il se limite principalement aux modèles MoE, au décodage glouton en nombres entiers et à un contexte d’environ 1 024 tokens ; l’architecture elle-même n’est pas cachée. Mais le fait que les zk passent de la blockchain à la couche de sortie des modèles rend soudain bien plus concrètes des applications comme l’audit et la vérification du routage.
#zkSNARK #AI #可验证推理 #Anthropic
