1/2
Pensé que tenía un contexto de 1M en Codex.
Entonces vi que mi chat de Astra mostraba 172k usados de 258k.
La especificación de la API de Astra sí indica 1.05M tokens, pero Codex puede usar una ventana de contexto más pequeña de forma predeterminada.
En mi configuración, el valor predeterminado era de 272,000 tokens.
Con el factor del 95% de ventana utilizable del cliente, eso explica los 258k que aparecen en la aplicación.
El máximo de mi catálogo de modelos local era de 872,000 tokens, lo que corresponde a unos 828k utilizables.
Tu configuración puede tener un límite diferente, así que conviene pedirle a Codex que lo compruebe antes de cambiarlo.
Una contrapartida: mantener más historial en el contexto activo puede consumir más de tu cuota.
Aumentar el límite máximo por sí solo no hace que cada solicitud consuma toda la ventana.
Si iniciaste sesión en Codex mediante ChatGPT, no hay un multiplicador aparte para el contexto largo, pero procesar más tokens sigue contando.
Usar tu propia clave de API se rige por los precios de la API.
Si quieres la ventana más grande que admite tu configuración, pega esto en Codex:
---------------------------
Pensé que tenía un contexto de 1M en Codex.
Entonces vi que mi chat de Astra mostraba 172k usados de 258k.
La especificación de la API de Astra sí indica 1.05M tokens, pero Codex puede usar una ventana de contexto más pequeña de forma predeterminada.
En mi configuración, el valor predeterminado era de 272,000 tokens.
Con el factor del 95% de ventana utilizable del cliente, eso explica los 258k que aparecen en la aplicación.
El máximo de mi catálogo de modelos local era de 872,000 tokens, lo que corresponde a unos 828k utilizables.
Tu configuración puede tener un límite diferente, así que conviene pedirle a Codex que lo compruebe antes de cambiarlo.
Una contrapartida: mantener más historial en el contexto activo puede consumir más de tu cuota.
Aumentar el límite máximo por sí solo no hace que cada solicitud consuma toda la ventana.
Si iniciaste sesión en Codex mediante ChatGPT, no hay un multiplicador aparte para el contexto largo, pero procesar más tokens sigue contando.
Usar tu propia clave de API se rige por los precios de la API.
Si quieres la ventana más grande que admite tu configuración, pega esto en Codex:
---------------------------
