Quelque chose m'a arrêté pendant la tâche @OpenGradient #OPG ce matin. La présentation sur la responsabilité d'OpenGradient semble totale — chaque inférence d'IA obtient une trace cryptographique on-chain. Le contrat $OPG sur Base (0xFbC2051AE2265686a469421b2C5A2D5462FbF5eB — la même adresse qu'Upbit a utilisée pour les dépôts lors de l'inscription du 15 juin) règle les paiements d'inférence via Permit2. La couche d'infrastructure semble complète.
Mais elle se divise à un endroit important. Pour les modèles open-source fonctionnant sur les propres nœuds d'inférence d'OpenGradient, les attestations ZKML ou TEE peuvent réellement vérifier le calcul — quel modèle a été exécuté, les entrées exactes, les sorties exactes. C'est une véritable responsabilité.
Pour les appels proxy LLM dirigeant vers Anthropic ou OpenAI, toutefois, ce que le TEE prouve est plus étroit : le prompt a atteint le fournisseur sans être altéré et le résultat retourné sans être altéré. Ce qu'il ne peut pas vérifier, c'est ce que le modèle propriétaire a fait en interne — le raisonnement, les poids, la version exacte qui a été exécutée. La boîte noire monte en amont. OpenGradient sécurise le pipeline autour, mais s'arrête à la frontière du modèle.
J'ai réfléchi à cela un moment. Un agent peut prouver qu'il a appelé un fournisseur spécifique avec un prompt spécifique et a obtenu une sortie spécifique. C'est plus que ce que la plupart des systèmes offrent. Mais prouver que l'appel s'est bien déroulé n'est pas la même chose que prouver ce que le modèle a calculé. Que cet écart compte dépend entièrement de ce qui est construit dessus. #OPG