⚡ AI活用のヒント:AIでファイルを編集するなら、古いバージョンを「予測」として渡そう

リファクタリングしたファイルも、大部分は元のままです。OpenAIのPredicted Outputsでは、Chat Completionsのpredictionパラメーターに現在のテキストを渡せます。するとモデルは一致するトークンを再利用でき、レイテンシを抑えてファイル全体を返せます。

例:GPT-4.1に、JSクラス内のusernameをemailに変更するよう頼み、元のコードを {"type": "content", "content": code} として送信します。

注意点:
• GPT-4o、GPT-4o mini、GPT-4.1ファミリーに対応
• 回答に含まれなかった予測トークンも出力として課金されます。usage内のrejected_prediction_tokensを確認してください
• 関数呼び出し、n > 1、logprobs、max_completion_tokensには非対応

⭐ 大きなファイルの小規模な編集に最適。

#AI