#零知识证明 Cette nouvelle est assez intéressante 🧐🧐 Le modèle haut de gamme pour lequel on paie une fortune pourrait-il être remplacé discrètement, en coulisses, par un modèle bon marché ? Anthropic veut maintenant utiliser une technologie issue de la crypto pour « vérifier » 🔍
Le FlashProve, récemment publié en open source par Anthropic, transpose aux inférences de l’IA les preuves à divulgation nulle de connaissance couramment utilisées dans la blockchain.
Le fournisseur génère d’abord une empreinte cryptographique des poids du modèle afin de fixer lequel il utilise. Ensuite, chaque réponse est accompagnée d’une preuve mathématique. L’utilisateur n’a pas besoin d’obtenir les poids ni de relancer le modèle lui-même pour vérifier si cette réponse provient bien des poids initialement promis. Il paraît que Claude a lui-même participé au développement et à l’optimisation de ce système.
Mais on est encore loin de pouvoir l’utiliser : une preuve ne permet de vérifier qu’un seul token de sortie, pas encore une réponse entière ; et la génération d’une preuve exige une puissance de calcul GPU 70 à 95 fois supérieure à celle d’une inférence ordinaire. Vérifier un caractère coûte des dizaines de fois plus cher que d’en générer un. À mon avis, aucun fournisseur ne voudra payer pour ça, haha #Anthropic #AI
Le FlashProve, récemment publié en open source par Anthropic, transpose aux inférences de l’IA les preuves à divulgation nulle de connaissance couramment utilisées dans la blockchain.
Le fournisseur génère d’abord une empreinte cryptographique des poids du modèle afin de fixer lequel il utilise. Ensuite, chaque réponse est accompagnée d’une preuve mathématique. L’utilisateur n’a pas besoin d’obtenir les poids ni de relancer le modèle lui-même pour vérifier si cette réponse provient bien des poids initialement promis. Il paraît que Claude a lui-même participé au développement et à l’optimisation de ce système.
Mais on est encore loin de pouvoir l’utiliser : une preuve ne permet de vérifier qu’un seul token de sortie, pas encore une réponse entière ; et la génération d’une preuve exige une puissance de calcul GPU 70 à 95 fois supérieure à celle d’une inférence ordinaire. Vérifier un caractère coûte des dizaines de fois plus cher que d’en générer un. À mon avis, aucun fournisseur ne voudra payer pour ça, haha #Anthropic #AI
