Sur le chemin du travail le matin, je tombe sur une remarque qui se moque : la personne dit qu’il y a six mois, dans un certain grand groupe “IA”, il a laissé filer une idée de produit à la volée, et que récemment on la lui a renvoyée telle quelle comme étude de cas. Dans les commentaires, tout le monde n’en peut plus, accusant de “voler des données sans payer”. Moi, je n’ai pas suivi la vague. Une fois au bureau, j’ouvre l’« Private Inference » avec le numéro @OpenGradient pour vérifier si la promesse “le prompt ne sera pas utilisé pour l’entraînement” repose sur des conditions contractuelles, ou s’il existe vraiment, au niveau des mécanismes internes, une barrière qui bloque cette route. $pivx
J’ai choisi un extrait de plan d’affaires fictif portant des “empreintes” évidentes. Dans Private Inference, j’ai fait tourner trois cycles en modifiant l’expression avec quatre formulations différentes. Au total, douze requêtes, et à chaque fois j’en ai profité pour récupérer des journaux au niveau des nœuds, afin de vérifier si le texte original du prompt est réellement conservé sur disque. Résultat : c’est identique à chaque fois. Côté nœud, ne reste qu’un hachage de la charge chiffrée et un identifiant de session jetable. Le texte en clair n’apparaît jamais en dehors de la “TEE enclave”. Au moment où il sort de l’enclave, la mémoire est immédiatement remise à zéro. Les journaux ne contiennent aucun champ qui permettrait de reconstituer un jeu de données d’entraînement.
Dans les discussions publiques autour de Private Inference, l’attention est presque entièrement accaparée par le point émotionnel : “ne pas être des parasites”. Ce que fait vraiment OpenGradient, lui, est plus froid : sortir l’absence d’entraînement des accords utilisateurs, et la transformer en un chemin physique garanti conjointement par le matériel et la cryptographie. La TEE décide que le texte en clair peut entrer mais ne peut pas sortir ; Oblivious HTTP coupe l’identité et l’origine ; et la “Verification Layer” émet, a posteriori, des reçus d’exécution signés, vérifiables publiquement. Les clauses peuvent changer, mais ce chemin ne changera pas. $SYRUP
Les indicateurs de suivi sont déplacés en conséquence. Je ne regarde pas combien de “prompts de confidentialité” OpenGradient exécute : je surveille une donnée non consensuelle. Chaque jour, combien de reçus peuvent être reproduits par une vérification tierce et prouver l’absence de tout cache ou de tout retour en arrière. Le premier mesure la popularité ; le second mesure si ce mur anti-“parasites” est vraiment porteur.
Si $OPG ne fait que payer des frais de traitement pour une inférence de confidentialité, alors c’est plutôt un jeton de facturation pour la bande passante chiffrée ; mais si, dans le futur, les nœuds TEE mettent en gage, que l’émission des reçus signe tout, que les sanctions en cas de violation, l’arbitrage de fuite des flux de données d’entraînement et l’indemnisation des utilisateurs forment une boucle fermée autour de lui, alors il n’assume plus seulement un rôle de jeton de facturation. Il devient l’unité de caution de confiance de ce réseau d’inférence anti-“parasites”.
Pas pressé de tirer une conclusion. Faire de “ne pas entraîner” un chemin vérifiable demande du temps. Je suis prêt à continuer à observer le mainnet d’OpenGradient et les échantillons que fourniront les partenaires d’intégration par la suite. #opg