Anthropic, l’entreprise à l’origine de Claude, a lancé FlashProve, un outil qui fournit aux clients un reçu numérique prouvant qu’une réponse de l’IA provient bien du modèle pour lequel ils ont payé.

Points clés à retenir

• Anthropic a dévoilé FlashProve, qui peut générer des preuves cryptographiques à environ 110 jetons par seconde sur un seul H100

• FlashProve a généré des preuves pour une requête de 1 024 jetons, avec une taille de preuve d’environ 19 Mo

• FlashProve utilise environ 70 à 95 fois plus de temps GPU que l’exécution du même modèle avec vLLM

• FlashProve fournit la réponse et une preuve compacte liée au modèle engagé, qu’un vérificateur peut contrôler plus rapidement qu’en réexécutant le modèle complet

Georgios Konstantopoulos a publié un article sur ces travaux. Anthropic développe la famille de modèles Claude, et ses propres recherches exposent les chiffres et la conception du système.

L’inférence vérifiable s’attaque au problème du routeur caché : « provient du modèle »

Anthropic a déclaré que les utilisateurs ne peuvent toujours pas facilement vérifier si une réponse provient du modèle désigné, d’un substitut moins coûteux ou d’un flux de jetons altéré. Son système d’inférence vérifiable résout ce problème en demandant au fournisseur du modèle de s’engager sur un modèle précis, puis de produire une preuve cryptographique que la réponse provient du modèle doté de ces poids engagés.

La recherche se concentre sur les zkSNARK, un système de preuve qui permet à une partie de prouver qu’un calcul a été effectué correctement sans divulguer toutes les données sous-jacentes. Dans ce cas, l’inférence vérifiable confirme que le texte a été généré et qu’un modèle précis, doté de poids précis, l’a produit.

Anthropic a déclaré que FlashProve avait généré des preuves pour une requête de 1 024 jetons, d’une taille d’environ 19 Mo. Pour Llama 4 Maverick, un modèle de mélange d’experts comportant 400 milliards de paramètres, l’entreprise a indiqué qu’un seul H100 pouvait générer ces preuves à environ 110 jetons par seconde.

À lire également : Anthropic rémunère des professeurs pour tester Claude, dans le cadre d’une démarche vers l’emploi

Le gain de vitesse a tout de même un coût

Ces chiffres s’accompagnent tout de même d’un lourd surcoût.

FlashProve utilise environ 70 à 95 fois plus de temps GPU que l’exécution du même modèle sur vLLM, le moteur d’inférence open source utilisé en production par de nombreux développeurs. Cela signifie que l’inférence vérifiable n’est pas près de devenir la norme pour tout le trafic des chatbots, mais qu’elle constitue une option pour les charges de travail exigeant une grande confiance, les contrats d’entreprise, les systèmes réglementés et les services d’IA sensibles à la sécurité, pour lesquels l’identité du modèle compte autant que la vitesse.

Anthropic a présenté ces travaux comme un élément d’une boîte à outils plus vaste dédiée à la conformité et à la sécurité. L’entreprise soutient que, si les laboratoires d’IA sont soumis à des règles concernant les systèmes autorisés à servir certains utilisateurs, la preuve d’inférence apporte aux auditeurs davantage qu’une simple promesse affichée sur un tableau de bord et fournit un reçu cryptographique attestant que le résultat provient bien du modèle auquel le fournisseur s’était engagé.

Des API fondées sur la confiance aux résultats vérifiables

La distribution de l’IA s’est complexifiée : les entreprises accèdent souvent aux modèles par l’intermédiaire de passerelles, de courtiers et de couches d’orchestration, plutôt que par un point d’accès direct du laboratoire. Cela facilite la substitution pour réduire les coûts ou la latence, ou pour des attaquants. Au cours de ce cycle, Anthropic a ajouté à Claude des fonctionnalités destinées aux entreprises et à la sécurité.

La recherche publiée mardi fait progresser ces efforts d’un niveau : il ne s’agit plus seulement de savoir qui peut appeler un modèle, mais de déterminer si le résultat peut être prouvé après coup. Il y a aussi un aspect cryptographique. Les zkSNARK sont issus de la même famille de technologies que celles qui alimentent les systèmes de blockchain préservant la confidentialité. Anthropic applique ces mécanismes à l’inférence de l’IA plutôt qu’aux transferts sur la chaîne.

Comment FlashProve transforme la piste d’audit de l’IA

FlashProve se situe entre l’inférence classique et la vérification formelle.

Un client envoie une invite, le modèle s’exécute, puis le système produit à la fois la réponse et une preuve compacte liée au modèle sur lequel le fournisseur s’est engagé. Un vérificateur peut ensuite contrôler cette preuve bien plus rapidement qu’en réexécutant le modèle complet, et confirmer que la réponse provient du modèle sans que chaque client ait à héberger un modèle gigantesque.

Pour les acheteurs de services cloud, l’inférence vérifiable est importante lorsqu’Anthropic n’est pas le seul intervenant dans le traitement de la requête. Une banque qui utilise Claude par l’intermédiaire d’un courtier, ou une équipe gouvernementale qui s’appuie sur une passerelle interne, peut se soucier moins du style que de savoir si le modèle désigné a réellement traité la requête. FlashProve offre à ces clients un moyen technique de vérifier cette affirmation, même si le coût reste le principal obstacle à une adoption plus large.

À lire ensuite : Anthropic récolte 23,5 milliards de dollars avant son introduction en bourse