⚡ Совет по ИИ: редактируете файл с помощью ИИ? Передайте ему старую версию как «предсказание»

Большая часть рефакторированного файла остаётся без изменений. Предсказанные выходные данные OpenAI позволяют передать текущий текст в параметре prediction в Chat Completions, чтобы модель могла повторно использовать совпадающие токены и возвращать весь файл с меньшей задержкой.

Пример: попросите GPT-4.1 заменить username на email в классе JS и отправьте исходный код в виде {"type": "content", "content": code}.

Обратите внимание на детали:
• Работает с GPT-4o, GPT-4o mini и семейством GPT-4.1
• Токены предсказания, не попавшие в ответ, всё равно тарифицируются как выходные; проверьте rejected_prediction_tokens в usage
• Не поддерживаются вызов функций, n > 1, logprobs и max_completion_tokens

⭐ Лучше всего подходит для небольших правок в больших файлах.

#AI