Une fenêtre de contexte longue n’est pas une mémoire à long terme

Davantage de texte dans la conversation en cours ne signifie pas automatiquement qu’une IA s’en souviendra demain.

OpenAI définit la fenêtre de contexte comme le nombre de jetons qu’un modèle peut traiter dans une requête. La mémoire de ChatGPT est une fonctionnalité distincte qui peut conserver certains éléments d’une conversation à l’autre lorsqu’elle est activée ; elle ne retient pas tous les détails, et sa disponibilité peut varier. Ainsi, une fenêtre de contexte plus grande permet d’intégrer davantage d’informations dans l’interaction en cours — sans nécessairement améliorer la capacité de rappel à long terme.

À retenir : lorsqu’une IA semble « se souvenir », vérifiez si elle utilise le prompt actuel, une fonctionnalité de mémoire enregistrée, ou les deux. Selon vous, quelle distinction les utilisateurs oublient-ils le plus souvent ?

Sources : OpenAI, Comprendre et compter les jetons : https://help.openai.com/en/articles/4936856-understanding-and-counting-tokens | Mémoire dans ChatGPT : https://help.openai.com/en/articles/8590148-memory-in-chatgpt

Veille du marché : $BTC $ETH
#AI #LLMs #ApprentissageAutomatique