⚡ Conseil IA : Vous modifiez un fichier avec l’IA ? Donnez-lui l’ancienne version comme « prédiction »
La majeure partie d’un fichier refactorisé reste identique. Les sorties prédites d’OpenAI vous permettent de transmettre le texte actuel dans le paramètre prediction de Chat Completions, afin que le modèle puisse réutiliser les jetons correspondants et renvoyer le fichier entier avec une latence réduite.
Exemple : demandez à GPT-4.1 de remplacer username par email dans une classe JS, et envoyez le code d’origine sous la forme {"type": "content", "content": code}.
Quelques détails à connaître :
• Fonctionne avec GPT-4o, GPT-4o mini et la famille GPT-4.1
• Les jetons de prédiction qui ne figurent pas dans la réponse sont tout de même facturés comme jetons de sortie ; consultez rejected_prediction_tokens dans usage
• Pas d’appel de fonction, de n > 1, de logprobs ni de max_completion_tokens
⭐ Idéal pour apporter de petites modifications à de gros fichiers.
#AI
La majeure partie d’un fichier refactorisé reste identique. Les sorties prédites d’OpenAI vous permettent de transmettre le texte actuel dans le paramètre prediction de Chat Completions, afin que le modèle puisse réutiliser les jetons correspondants et renvoyer le fichier entier avec une latence réduite.
Exemple : demandez à GPT-4.1 de remplacer username par email dans une classe JS, et envoyez le code d’origine sous la forme {"type": "content", "content": code}.
Quelques détails à connaître :
• Fonctionne avec GPT-4o, GPT-4o mini et la famille GPT-4.1
• Les jetons de prédiction qui ne figurent pas dans la réponse sont tout de même facturés comme jetons de sortie ; consultez rejected_prediction_tokens dans usage
• Pas d’appel de fonction, de n > 1, de logprobs ni de max_completion_tokens
⭐ Idéal pour apporter de petites modifications à de gros fichiers.
#AI
