L'année dernière, je voulais affiner un petit modèle de classification d'adresses sur la blockchain. J'ai loué une carte A100 sur une plateforme cloud, et à la fin du mois, j'étais complètement choqué. Avec le coût du stockage et du trafic, j'avais de quoi acheter un nouveau smartphone. Pire encore, cette carte était souvent à l'arrêt. Je faisais juste quelques sessions d'entraînement le soir, mais je devais payer pour tout le temps d'inactivité. C'était comme louer une voiture de course et ne la conduire que pendant une demi-heure par jour, le reste du temps, elle restait au garage à accumuler des frais de stationnement.

Plus tard, en feuilletant la documentation technique, j'ai vu le chapitre sur OpenLoRA et j'ai réalisé à quel point j'étais naïf. Ils utilisent une architecture GPU multi-locataire qui permet à des dizaines de modèles LoRA de partager le même modèle de base. Quand tu as besoin d'entraîner, le système charge dynamiquement le poids de ton adaptateur, et une fois l'entraînement terminé, ça se libère. Pas besoin de monopoliser toute la carte. C'est comme si tu n'avais plus besoin de louer une voiture de course entière, mais que tu payais juste en fonction du kilométrage parcouru. En fin de compte, ça fait chuter les coûts de façon significative.

J'ai essayé de déployer un petit modèle là-dessus. Depuis le téléchargement des données jusqu'au démarrage du fine-tuning, je n'ai même pas eu à installer de drivers, configurer l'environnement ou ajuster la version de CUDA. Toutes ces galères qui me prenaient la tête auparavant sont désormais emballées. L'entraînement a duré moins de deux heures et le coût total est même inférieur à celui d'une heure de location dans le passé. À ce moment-là, j'avais juste une idée : si ce truc était sorti deux ans plus tôt, j'aurais pu économiser une sacrée somme.

Certaines personnes pourraient dire : "Ce n'est qu'un service cloud, qu'est-ce qui est si génial ?" Frérot, va jeter un œil aux services AI des plateformes cloud traditionnelles. Les prix ne sont toujours pas bon marché et beaucoup ne sont pas compatibles avec LoRA, ce type de fine-tuning léger. Même si tu modifies juste un petit paramètre, tu dois créer une instance complète. L'OpenLoRA à @OpenLedger est spécialement optimisé pour LoRA. Son noyau SGMV maximise l'efficacité des calculs matriciels. Pour le même nombre de tours d'entraînement, il utilise moins de mémoire vidéo et moins de temps, donc la facture descend naturellement.

Je ne l'utilise pas seulement pour économiser de l'argent, j'ai aussi découvert un avantage. Avant, quand j'avais le GPU pour moi tout seul, je voulais toujours faire plusieurs groupes d'expérimentations en une fois, de peur de gaspiller la puissance de calcul. Résultat : je finissais souvent avec une tonne de paramètres inutiles. Maintenant, avec le paiement à l'usage, mon état d'esprit a changé. Je fais juste un petit ajustement à chaque fois. Si ça ne marche pas, j'arrête immédiatement. Ça me permet d'itérer beaucoup plus rapidement, c'est un gain inattendu.

Bien sûr, ce n'est pas sans défauts. Pour l'instant, les types de modèles de base supportés ne sont pas assez nombreux. J'ai un projet qui veut utiliser un modèle peu commun, mais je ne trouve pas. Il faut que je fasse une demande et attendre que l'officiel l'adapte. De plus, pendant les pics, la planification nécessite parfois d'attendre quelques minutes. Mais compte tenu de la différence de prix, j'ai tout toléré.

Je garde désormais la majorité de mes actifs en Bitcoin et Ethereum sans y toucher, mais je fais tous mes expérimentations de modèles sur OpenLedger. L'argent économisé, je le réinvestis dans $OPEN . Après tout, les expériences coûtent aussi de l'argent, donc autant dépenser sur une plateforme où j'ai des positions. Les gars, souvenez-vous, quand vous faites des modèles, ne lésinez pas sur l'argent. Si vous pouvez payer à l'usage, n'optez pas pour un abonnement mensuel. En grattant ces détails, le profit annuel peut augmenter considérablement #OpenLedger .