コンテキストウィンドウが長くても、長期記憶があるとは限らない
現在の会話にテキストを追加しても、AIが明日それを覚えているとは限りません。
OpenAIは、コンテキストウィンドウを、モデルがリクエスト内で処理できるトークン数と定義しています。ChatGPTのメモリは別の機能で、有効にすると、選択された情報をチャットをまたいで引き継ぐ場合があります。ただし、すべての情報が保持されるわけではなく、利用できるかどうかも状況によって異なります。つまり、コンテキストウィンドウが大きいほど現在のやり取りに多くの情報を含められますが、長期的な想起能力が高まるとは限りません。
要点:AIが「覚えている」ように見えるときは、現在のプロンプトを使っているのか、保存されたメモリ機能を使っているのか、あるいはその両方なのかを確認しましょう。ユーザーが最も見落としがちなのは、どの違いだと思いますか?
出典:OpenAI「トークンの理解とカウント」:https://help.openai.com/en/articles/4936856-understanding-and-counting-tokens | 「ChatGPTのメモリ」:https://help.openai.com/en/articles/8590148-memory-in-chatgpt
マーケットウォッチ:$BTC $ETH
#AI #LLMs #MachineLearning
現在の会話にテキストを追加しても、AIが明日それを覚えているとは限りません。
OpenAIは、コンテキストウィンドウを、モデルがリクエスト内で処理できるトークン数と定義しています。ChatGPTのメモリは別の機能で、有効にすると、選択された情報をチャットをまたいで引き継ぐ場合があります。ただし、すべての情報が保持されるわけではなく、利用できるかどうかも状況によって異なります。つまり、コンテキストウィンドウが大きいほど現在のやり取りに多くの情報を含められますが、長期的な想起能力が高まるとは限りません。
要点:AIが「覚えている」ように見えるときは、現在のプロンプトを使っているのか、保存されたメモリ機能を使っているのか、あるいはその両方なのかを確認しましょう。ユーザーが最も見落としがちなのは、どの違いだと思いますか?
出典:OpenAI「トークンの理解とカウント」:https://help.openai.com/en/articles/4936856-understanding-and-counting-tokens | 「ChatGPTのメモリ」:https://help.openai.com/en/articles/8590148-memory-in-chatgpt
マーケットウォッチ:$BTC $ETH
#AI #LLMs #MachineLearning