Le week-end, j’ai recopié mot pour mot des prompts de la partie du mois dernier qui fonctionnait bien, que j’ai fournis à un modèle de grande intelligence « centralisé » donné. Le style de sortie était nettement différent de la fois précédente. Ce n’est qu’en allant dans les réglages que j’ai compris que la plateforme avait par défaut branché une nouvelle version. Le changement ne figurait que par une petite ligne dans le journal des mises à jour. J’ai ensuite ouvert le panneau de raisonnement vérifiable de @OpenGradient , pour voir s’il existe des parades face à cette combine consistant à changer de modèle en silence, de « l’IA de confiance » vers « l’IA de vérification ». $TAC
J’ai choisi trois tâches différentes, puis j’ai fait quatre tours pour chacune sur OpenGradient, soit douze appels au total. À chaque fois, j’ai consigné dans un tableau le hash du modèle cible, l’empreinte (fingerprint) réellement chargée au niveau des nœuds, la version de la route du middleware d’acheminement des capacités, et les accusés de réception de la Verification Layer, puis j’ai vérifié ligne par ligne. Sur les douze essais, dès qu’un nœud substituait ne serait-ce qu’un micro-poids de fine-tuning, l’empreinte de l’accusé de réception et le hash que j’avais demandé devenaient immédiatement incompatibles : le middleware refusait alors carrément d’établir l’appariement, et la chaîne ne pouvait pas suivre.
Les discussions grand public sur ChatGPT qui changerait de modèle se focalisent presque toutes sur l’émotion d’avoir été trompé. OpenGradient fait quelque chose de plus froid : il déplace le fait de savoir si le modèle que vous avez sélectionné est bien celui qui est exécuté, depuis les termes vers une contrainte forte au niveau du protocole. L’empreinte du modèle est publiquement ancrée sur la Verification Layer ; le middleware d’acheminement des capacités fait l’appariement selon l’empreinte et non selon les étiquettes de la plateforme. Toute substitution silencieuse laisse une trace indéniable sur les accusés de réception. Le modèle n’est pas une boîte noire : c’est un objet on-chain que l’on peut vérifier à tout moment. $RAVE
Les indicateurs doivent eux aussi changer. Je ne me préoccupe pas de savoir combien de versions de modèles OpenGradient fait tomber : je surveille une donnée qui ne fait pas consensus. Chaque jour, la part des accusés de réception où l’empreinte du modèle correspond à l’empreinte de la requête, et qui peut être recalculée indépendamment par un tiers. La première mesure la richesse ; la seconde mesure si cette chaîne anti-substitution tient sous un trafic réel.
Si, pour $OPG , il ne s’agit que de frais d’appariement facturés à chaque appel, alors c’est plutôt une sorte de jeton pour facturer les appels ; mais si, à l’avenir, l’enregistrement des versions de modèles, l’ancrage des empreintes, la confiscation des pénalités pour substitutions silencieuses, des primes pour la vérification des accusés, et la compensation pour des appels entre versions se mettent tous autour de lui pour former une boucle, alors ce n’est plus un simple jeton de facturation : c’est un actif de crédit de version du réseau d’identité du modèle.
Pas de conclusion hâtive. Sur une plateforme centralisée, changer de modèle en silence peut se faire en modifiant une seule configuration ; pour être contrebalancé par une structure on-chain, il faut du temps. Je suis prêt à continuer d’observer les données du mainnet OpenGradient et les échantillons remis par les parties qui s’y connecteront ensuite. #opg