1/2

Tôi tưởng mình có ngữ cảnh 1M trong Codex.

Sau đó, tôi nhận thấy cuộc trò chuyện Astra của mình hiển thị đã dùng 172k trên tổng số 258k.

Thông số API của Astra có ghi 1.05M token, nhưng Codex có thể mặc định dùng cửa sổ ngữ cảnh nhỏ hơn.

Trong thiết lập của tôi, mặc định là 272,000 token.

Với hệ số cửa sổ khả dụng 95% của ứng dụng, con số này giải thích mức 258k hiển thị trong ứng dụng.

Mức tối đa trong danh mục mô hình cục bộ của tôi là 872,000 token, tương đương khoảng 828k token khả dụng.

Giới hạn trong thiết lập của bạn có thể khác, vì vậy nên nhờ Codex kiểm tra trước khi thay đổi.

Một điều cần cân nhắc: giữ lại nhiều lịch sử hơn trong ngữ cảnh đang hoạt động có thể tiêu tốn nhiều hơn hạn mức của bạn.

Chỉ tăng giới hạn trên không có nghĩa là mọi yêu cầu đều sử dụng hết toàn bộ cửa sổ.

Với Codex đăng nhập qua ChatGPT, không có hệ số nhân riêng cho ngữ cảnh dài, nhưng xử lý nhiều token hơn vẫn được tính vào mức sử dụng.
Dùng khóa API của riêng bạn sẽ áp dụng giá API.

Nếu bạn muốn cửa sổ lớn nhất mà thiết lập của mình hỗ trợ, hãy dán nội dung này vào Codex:

---------------------------