OpenAI intègre désormais directement le temps d’attente au prix de la puissance de calcul : pour les tâches en arrière-plan, on peut choisir un délai de 2 ou 8 heures, avec des tarifs par token inférieurs de 30 % ou 40 % à ceux de l’offre standard. Pour l’instant, ces chiffres n’ont qu’une seule source : OpenAI.
L’optimisation des coûts de l’IA s’enrichit d’une nouvelle piste : au lieu de choisir un modèle moins cher, envoyer les tâches non urgentes dans une file d’attente lente. Si OpenAI supprime la remise ou si cette file ne permet pas de respecter de manière fiable les délais annoncés, cette conclusion ne tient plus.
L’optimisation des coûts de l’IA s’enrichit d’une nouvelle piste : au lieu de choisir un modèle moins cher, envoyer les tâches non urgentes dans une file d’attente lente. Si OpenAI supprime la remise ou si cette file ne permet pas de respecter de manière fiable les délais annoncés, cette conclusion ne tient plus.
