Lundi soir, j’ai ressorti mes relevés de carte de crédit pour tout vérifier. Midjourney coûte 240 $ par an, Runway Gen-3 180 $ par an, Ideogram 100 $ par an. Rien que pour ces trois services, l’année dernière, j’ai payé 520 $ d’abonnements. En pratique, j’utilise intensivement juste deux ou trois mois ; le reste de l’argent part complètement en fumée. En tombant sur la section Model Hub d’OpenGradient Chat, j’ai vu qu’il y a plus de 4500 modèles facturés à l’appel. J’ai poussé la facture sur le côté et j’ai commencé à faire les comptes.
Au début, je pensais que ce type d’agrégateur n’était rien de plus qu’une interface unifiée qui habille trois APIs, et que c’était juste du piratage sans grande valeur technique. Mais après avoir lu la partie sur la logique de routage dans le deuxième chapitre du document @OpenGradient , j’admets que j’ai eu une réflexion trop superficielle. Sur Model Hub, le fine-tuning SDXL dans le style de Midjourney, le système de diffusion latente vidéo de Runway, et les modèles de rendu de polices d’Ideogram tournent tous dans les enclaves TEE des Inference Nodes. Je paye à l’appel avec $OPG : si aucune image n’est générée, je ne suis pas débité ; si une image est générée, c’est la durée de GPU utilisée pour cette inférence, plus le coût de vérification d’attestation. Pour une image de 1024, on est en gros entre 0,3 et 0,5 OPG. D’après l’évaluation au TGE, une image revient à une ou deux centimes de yuan. Mes 520 $ de l’an dernier me permettaient de lancer environ 20 000 images.
La clé, dans l’architecture HACA d’OpenGradient, pour comprimer la structure de coûts de cet agrégation, c’est de supprimer une couche de commission de plateforme. Une grosse partie du coût de l’abonnement Midjourney sert à Discord, à la gestion de la communauté, et aux pertes liées aux quotas mensuels non utilisés. Chez Runway, le coût des GPU inactifs est réparti sur tous les utilisateurs abonnés ; je ne génère pas d’images, mais je paie quand même pour d’autres. Sur OPG, via le protocole x402, chaque paiement d’inférence est “attaché” à l’attestation : le GPU inutilisé de tel nœud d’inférence, c’est lui qui l’absorbe. En tant qu’utilisateur, je ne paie que pour les images réellement produites. Sur Model Hub, plus de 4500 modèles peuvent être basculés à la demande : tester un nouveau modèle ne nécessite plus de réouvrir un abonnement mensuel. $EVAA
Ce n’est pas juste “économiser sans réfléchir”. Les détenteurs de droits des modèles commerciaux ont-ils accordé une licence à OpenGradient ? C’est une question. Sur Model Hub, certains poids de fine-tuning SDXL, s’ils proviennent d’uploads communautaires, n’ont pas une chaîne de documentation claire concernant les autorisations commerciales pour les images générées : en cas de problème, c’est l’utilisateur qui se retrouve avec la facture. De plus, le prix d’OPG lui-même fluctue beaucoup : après le TGE, au 13e mois, le déblocage de 25 % créera une pression à la vente qui fera bouger le coût par image. Stocker longtemps de l’OPG comme carburant payant, c’est accepter passivement le risque lié au prix du token. Quant à la stratégie de logs de la partie “LLM Proxy” qui route des modèles de pointe externes, OpenGradient n’a pas la main dessus. $WLD
Je remets la facture dans le tiroir : j’arrête Midjourney, sans renouveler l’abonnement à l’expiration. J’éteins les lumières et je vais dormir. #opg