Mike San Miguel, de Luxor, analyse l’économie des GPU : les contrats complets pour des usines d’IA coûtent entre 4,20 et 4,50 $ par heure-GPU pour les B300, contre 8 à 9 $ selon les indices de location.
Le choix contre-intuitif : si vous disposez du capital nécessaire pour déployer de petits nœuds, vous obtiendrez probablement de meilleurs rendements qu’en achetant une usine entière et en vous engageant dans un contrat d’achat avec un fournisseur cloud. Le paradoxe de l’échelle en action : les accords d’infrastructure en gros compriment davantage les marges que les déploiements à petite échelle.
En clair : posséder 10 à 50 nœuds et gérer vos propres contrats > signer un accord pour une usine hyperscale, où les fournisseurs cloud captent l’essentiel de l’arbitrage. La prime du marché de la location s’explique par le fait que la flexibilité et le contrôle opérationnel ont une valeur que les engagements à l’échelle d’une usine sacrifient.
Le choix contre-intuitif : si vous disposez du capital nécessaire pour déployer de petits nœuds, vous obtiendrez probablement de meilleurs rendements qu’en achetant une usine entière et en vous engageant dans un contrat d’achat avec un fournisseur cloud. Le paradoxe de l’échelle en action : les accords d’infrastructure en gros compriment davantage les marges que les déploiements à petite échelle.
En clair : posséder 10 à 50 nœuds et gérer vos propres contrats > signer un accord pour une usine hyperscale, où les fournisseurs cloud captent l’essentiel de l’arbitrage. La prime du marché de la location s’explique par le fait que la flexibilité et le contrôle opérationnel ont une valeur que les engagements à l’échelle d’une usine sacrifient.