Hugging Face a fait passer les requêtes aux modèles de langage de son routage interne à OpenRouter : les fournisseurs sont sélectionnés selon les prix, la vitesse et la fiabilité en temps réel, et en cas d’échec, le routage bascule vers un autre fournisseur au cours du même appel, sans qu’il soit nécessaire de modifier le code existant.

Le point d’accès aux modèles n’a pas changé ; par défaut, la couche de routage prend désormais en charge l’approvisionnement en puissance de calcul. En contrepartie, les modèles de langage ne permettent plus d’utiliser sa propre clé de fournisseur. Si les taux d’erreur et la latence réels ne restent pas inférieurs à ceux de l’ancien routage, cette couche intermédiaire n’a pas de raison d’être.