Cửa sổ ngữ cảnh dài không phải là bộ nhớ dài hạn

Nhiều văn bản hơn trong cuộc trò chuyện hiện tại không tự động có nghĩa là AI sẽ nhớ được vào ngày mai.

OpenAI định nghĩa cửa sổ ngữ cảnh là lượng token mà một mô hình có thể xử lý trong một yêu cầu. Bộ nhớ ChatGPT là một tính năng riêng biệt, có thể lưu giữ một số thông tin được chọn qua các cuộc trò chuyện khi được bật; tính năng này không lưu giữ mọi chi tiết và khả năng sử dụng có thể khác nhau. Vì vậy, cửa sổ ngữ cảnh lớn hơn đồng nghĩa với việc có thể đưa thêm thông tin vào tương tác hiện tại—chứ không nhất thiết giúp ghi nhớ dài hạn tốt hơn.

Điều cần nhớ: khi AI có vẻ như đang “nhớ”, hãy kiểm tra xem nó đang dùng lời nhắc hiện tại, tính năng bộ nhớ đã lưu hay cả hai. Bạn nghĩ người dùng thường bỏ sót sự khác biệt nào nhất?

Nguồn: OpenAI, Tìm hiểu và đếm token: https://help.openai.com/en/articles/4936856-understanding-and-counting-tokens | Bộ nhớ trong ChatGPT: https://help.openai.com/en/articles/8590148-memory-in-chatgpt

Theo dõi thị trường: $BTC $ETH
#AI #LLMs #HọcMáy