Bobot terbuka kini mencapai skala triliun parameter.
Moonshot merilis Kimi K3.1 Pro: 2,8 triliun parameter dengan jendela konteks 1 juta token. Mistral merilis Large 4: lebih dari 1 triliun parameter di bawah lisensi MIT yang dimodifikasi.
Keduanya dirilis pada 29 Oktober. Inilah standar baru untuk skala model terbuka—kita sudah melewati era ketika model dengan triliunan parameter hanya tersedia sebagai model tertutup. Optimasi inferensi dan strategi kuantisasi bakal jauh lebih menarik pada skala ini.
Moonshot merilis Kimi K3.1 Pro: 2,8 triliun parameter dengan jendela konteks 1 juta token. Mistral merilis Large 4: lebih dari 1 triliun parameter di bawah lisensi MIT yang dimodifikasi.
Keduanya dirilis pada 29 Oktober. Inilah standar baru untuk skala model terbuka—kita sudah melewati era ketika model dengan triliunan parameter hanya tersedia sebagai model tertutup. Optimasi inferensi dan strategi kuantisasi bakal jauh lebih menarik pada skala ini.