1/2
Achei que tinha 1M de contexto no Codex.
Depois, percebi que meu chat do Astra mostrava 172k usados de 258k.
A especificação da API do Astra lista 1,05M de tokens, mas o Codex pode usar uma janela de contexto menor por padrão.
Na minha configuração, o padrão era de 272.000 tokens.
Com o fator de 95% de janela utilizável do cliente, isso explica os 258k exibidos no app.
O máximo no catálogo de modelos local era de 872.000 tokens, o que corresponde a cerca de 828k utilizáveis.
Sua configuração pode ter um limite diferente, então vale a pena pedir ao Codex que verifique antes de alterá-lo.
Uma desvantagem: manter mais histórico no contexto ativo pode consumir mais da sua cota.
Aumentar o limite, por si só, não faz com que cada solicitação consuma a janela inteira.
No Codex conectado pelo ChatGPT, não há um multiplicador separado para contexto longo, mas processar mais tokens ainda conta.
Usar sua própria chave de API segue os preços da API.
Se quiser a maior janela compatível com sua configuração, cole isto no Codex:
---------------------------
Achei que tinha 1M de contexto no Codex.
Depois, percebi que meu chat do Astra mostrava 172k usados de 258k.
A especificação da API do Astra lista 1,05M de tokens, mas o Codex pode usar uma janela de contexto menor por padrão.
Na minha configuração, o padrão era de 272.000 tokens.
Com o fator de 95% de janela utilizável do cliente, isso explica os 258k exibidos no app.
O máximo no catálogo de modelos local era de 872.000 tokens, o que corresponde a cerca de 828k utilizáveis.
Sua configuração pode ter um limite diferente, então vale a pena pedir ao Codex que verifique antes de alterá-lo.
Uma desvantagem: manter mais histórico no contexto ativo pode consumir mais da sua cota.
Aumentar o limite, por si só, não faz com que cada solicitação consuma a janela inteira.
No Codex conectado pelo ChatGPT, não há um multiplicador separado para contexto longo, mas processar mais tokens ainda conta.
Usar sua própria chave de API segue os preços da API.
Se quiser a maior janela compatível com sua configuração, cole isto no Codex:
---------------------------
