Il semblerait que l’engouement pour l’investissement immobilier des “vies” basées sur le silicium soit sur le point d’arriver
Je croyais toujours qu’en voulant utiliser une super GPU de haut niveau à l’instar du modèle “vieux Huang” à 500 000 dollars d’un coup, il fallait forcément l’acheter en totalité
Mais en réalité, une nouvelle approche vient d’un mode d’achat de GPU adopté par des membres d’équipes de recherche de tout premier plan comme Stanford et l’Université de New York. Ces GPU servent à la recherche sur le cancer et à l’entraînement de modèles spécialisés
Acheter des services cloud de façon traditionnelle, c’est difficile d’allouer un budget car les prix fluctuent ; et surtout, la sortie des données n’est pas assez sûre ; acheter comptant est encore plus cher, il faut en plus trouver soi-même une salle serveur, gérer l’exploitation et la maintenance, ce qui entraîne aussi beaucoup de coûts supplémentaires
Ils ont choisi d’utiliser B3IQ (@b3labs) pour mettre en place un achat échelonné, la location des machines en cas d’inactivité, et une compensation des revenus
En achetant par tranches des serveurs GPU NVIDIA dédiés, en assurant l’hébergement en data center américain avec du personnel sur place pour la gestion, l’équipe conserve totalement le contrôle des données et des modèles. Quand la puissance de calcul est inoccupée, elle peut aussi être louée, et les revenus servent directement à déduire le coût d’achat
Au final, on a l’impression que l’achat d’un GPU, c’est à peu près comme acheter un appartement
Si on en a besoin, on l’utilise ; si on n’en a pas besoin, on le met en location. On s’attend à ce qu’une vague de “propriétaires” nouvelle génération fasse bientôt son apparition
Je croyais toujours qu’en voulant utiliser une super GPU de haut niveau à l’instar du modèle “vieux Huang” à 500 000 dollars d’un coup, il fallait forcément l’acheter en totalité
Mais en réalité, une nouvelle approche vient d’un mode d’achat de GPU adopté par des membres d’équipes de recherche de tout premier plan comme Stanford et l’Université de New York. Ces GPU servent à la recherche sur le cancer et à l’entraînement de modèles spécialisés
Acheter des services cloud de façon traditionnelle, c’est difficile d’allouer un budget car les prix fluctuent ; et surtout, la sortie des données n’est pas assez sûre ; acheter comptant est encore plus cher, il faut en plus trouver soi-même une salle serveur, gérer l’exploitation et la maintenance, ce qui entraîne aussi beaucoup de coûts supplémentaires
Ils ont choisi d’utiliser B3IQ (@b3labs) pour mettre en place un achat échelonné, la location des machines en cas d’inactivité, et une compensation des revenus
En achetant par tranches des serveurs GPU NVIDIA dédiés, en assurant l’hébergement en data center américain avec du personnel sur place pour la gestion, l’équipe conserve totalement le contrôle des données et des modèles. Quand la puissance de calcul est inoccupée, elle peut aussi être louée, et les revenus servent directement à déduire le coût d’achat
Au final, on a l’impression que l’achat d’un GPU, c’est à peu près comme acheter un appartement
Si on en a besoin, on l’utilise ; si on n’en a pas besoin, on le met en location. On s’attend à ce qu’une vague de “propriétaires” nouvelle génération fasse bientôt son apparition
