1/2
Saya kira Codex memiliki konteks 1M.
Lalu saya melihat bahwa chat Astra saya menunjukkan 172k terpakai dari 258k.
Spesifikasi API Astra memang mencantumkan 1,05 juta token, tetapi secara default Codex bisa menggunakan jendela konteks yang lebih kecil.
Dalam pengaturan saya, nilai default-nya adalah 272.000 token.
Dengan faktor jendela yang dapat digunakan sebesar 95% dari klien, angka 258k yang ditampilkan di aplikasi pun masuk akal.
Batas maksimum di katalog model lokal saya adalah 872.000 token, setara dengan sekitar 828k yang dapat digunakan.
Pengaturan Anda mungkin memiliki batas yang berbeda, jadi sebaiknya minta Codex memeriksanya sebelum mengubahnya.
Satu komprominya: menyimpan lebih banyak riwayat dalam konteks aktif dapat menggunakan lebih banyak kuota Anda.
Menaikkan batas saja tidak membuat setiap permintaan menggunakan seluruh jendela.
Untuk Codex yang masuk melalui ChatGPT, tidak ada pengali konteks panjang terpisah, tetapi memproses lebih banyak token tetap diperhitungkan.
Menggunakan kunci API sendiri mengikuti harga API.
Jika Anda menginginkan jendela terbesar yang didukung pengaturan Anda, tempelkan ini ke Codex:
---------------------------
Saya kira Codex memiliki konteks 1M.
Lalu saya melihat bahwa chat Astra saya menunjukkan 172k terpakai dari 258k.
Spesifikasi API Astra memang mencantumkan 1,05 juta token, tetapi secara default Codex bisa menggunakan jendela konteks yang lebih kecil.
Dalam pengaturan saya, nilai default-nya adalah 272.000 token.
Dengan faktor jendela yang dapat digunakan sebesar 95% dari klien, angka 258k yang ditampilkan di aplikasi pun masuk akal.
Batas maksimum di katalog model lokal saya adalah 872.000 token, setara dengan sekitar 828k yang dapat digunakan.
Pengaturan Anda mungkin memiliki batas yang berbeda, jadi sebaiknya minta Codex memeriksanya sebelum mengubahnya.
Satu komprominya: menyimpan lebih banyak riwayat dalam konteks aktif dapat menggunakan lebih banyak kuota Anda.
Menaikkan batas saja tidak membuat setiap permintaan menggunakan seluruh jendela.
Untuk Codex yang masuk melalui ChatGPT, tidak ada pengali konteks panjang terpisah, tetapi memproses lebih banyak token tetap diperhitungkan.
Menggunakan kunci API sendiri mengikuti harga API.
Jika Anda menginginkan jendela terbesar yang didukung pengaturan Anda, tempelkan ini ke Codex:
---------------------------
