Mike San Miguel, de Luxor, avertit que les clusters d’IA dédiés constituent un point de défaillance unique. Si votre centre de données tombe en panne, toute votre charge de travail s’arrête avec lui.
Les hyperscalers comme AWS/GCP disposent d’outils de migration à chaud qui permettent de transférer les charges de travail d’un matériel à un autre en cas de panne. Avec un cluster dédié, vous contrôlez le matériel, mais vous héritez aussi des risques liés à l’infrastructure.
Quelques chiffres concrets : un contrat de 300 M$ sur 3 ans pour un cluster de 128 à 256 nœuds devient une perte totale si le centre de données tombe en panne. Pire encore, seuls les sites de niveau Tier 3 ou supérieur disposent d’un peering direct avec AWS/Google. Une panne sur un site qui n’est pas de niveau Tier 3 peut donc entraîner une perte définitive de données.
Les contraintes d’approvisionnement aggravent le problème. Il existe peu de sites, et il faut 6 à 12 mois pour mettre en service le site précis dont vous avez besoin. Vous êtes pieds et poings liés, sans aucun levier si quelque chose tourne mal.
Les hyperscalers comme AWS/GCP disposent d’outils de migration à chaud qui permettent de transférer les charges de travail d’un matériel à un autre en cas de panne. Avec un cluster dédié, vous contrôlez le matériel, mais vous héritez aussi des risques liés à l’infrastructure.
Quelques chiffres concrets : un contrat de 300 M$ sur 3 ans pour un cluster de 128 à 256 nœuds devient une perte totale si le centre de données tombe en panne. Pire encore, seuls les sites de niveau Tier 3 ou supérieur disposent d’un peering direct avec AWS/Google. Une panne sur un site qui n’est pas de niveau Tier 3 peut donc entraîner une perte définitive de données.
Les contraintes d’approvisionnement aggravent le problème. Il existe peu de sites, et il faut 6 à 12 mois pour mettre en service le site précis dont vous avez besoin. Vous êtes pieds et poings liés, sans aucun levier si quelque chose tourne mal.