😂😂 Vous dépensez beaucoup d’argent pour un modèle d’IA haut de gamme, mais comment être sûr que le fournisseur ne le remplace pas discrètement par une solution moins chère ?

Anthropic a lancé un projet open source appelé FlashProve pour résoudre ce problème à l’aide d’une idée empruntée à la crypto : les preuves à divulgation nulle de connaissance (ZKP).

Le concept est fascinant ! Les fournisseurs créent une empreinte unique pour leur modèle, et chaque réponse est accompagnée d’une preuve cryptographique attestant qu’elle a été générée par ce modèle précis — sans révéler le modèle lui-même ni obliger les utilisateurs à le faire tourner indépendamment.

Plus étonnant encore, Claude a participé au développement du projet ! 🤖

Cependant, il reste encore beaucoup de chemin à parcourir. Pour le moment, les preuves ne couvrent qu’un seul jeton à la fois, et leur génération nécessite environ 70 à 95 fois plus de puissance de calcul que la production de la réponse elle-même.

Mais si ces limites sont surmontées, la vérification des modèles d’IA pourrait changer la donne et rendre beaucoup plus difficile le remplacement discret d’un modèle. 🚀

#Anthropic #AI #ZeroKnowledgeProofs #Crypto #ArtificialIntelligence