⚡ KI-Tipp: Bearbeitest du eine Datei mit KI? Gib ihr die alte Version als „Vorhersage“
Der größte Teil einer überarbeiteten Datei bleibt unverändert. Mit OpenAIs Predicted Outputs kannst du den aktuellen Text im Parameter „prediction“ von Chat Completions übergeben. So kann das Modell übereinstimmende Tokens wiederverwenden und die gesamte Datei mit geringerer Latenz zurückgeben.
Beispiel: Bitte GPT-4.1, in einer JS-Klasse „username“ in „email“ umzubenennen, und sende den Originalcode als {"type": "content", "content": code} mit.
Das Kleingedruckte:
• Funktioniert mit GPT-4o, GPT-4o mini und der GPT-4.1-Familie
• Vorhersage-Tokens, die nicht in die Antwort übernommen werden, werden trotzdem als Ausgabe abgerechnet. Prüfe „rejected_prediction_tokens“ unter „usage“.
• Kein Function Calling, n > 1, logprobs oder max_completion_tokens
⭐ Ideal für kleine Änderungen an großen Dateien.
#KI
Der größte Teil einer überarbeiteten Datei bleibt unverändert. Mit OpenAIs Predicted Outputs kannst du den aktuellen Text im Parameter „prediction“ von Chat Completions übergeben. So kann das Modell übereinstimmende Tokens wiederverwenden und die gesamte Datei mit geringerer Latenz zurückgeben.
Beispiel: Bitte GPT-4.1, in einer JS-Klasse „username“ in „email“ umzubenennen, und sende den Originalcode als {"type": "content", "content": code} mit.
Das Kleingedruckte:
• Funktioniert mit GPT-4o, GPT-4o mini und der GPT-4.1-Familie
• Vorhersage-Tokens, die nicht in die Antwort übernommen werden, werden trotzdem als Ausgabe abgerechnet. Prüfe „rejected_prediction_tokens“ unter „usage“.
• Kein Function Calling, n > 1, logprobs oder max_completion_tokens
⭐ Ideal für kleine Änderungen an großen Dateien.
#KI
