Juli menjadi liar bagi model open-weight. Empat rilis besar menjatuhkan bobot secara publik, termasuk usaha baru Ilya Sutskever yang berkolaborasi dengan Inkling untuk model masif berparameter 975B yang didukung pendanaan awal sebesar $2B.
Ironinya? Orang-orang yang dulu merintis sistem AI tertutup kini all-in pada open weights. Perubahan ini memberi tekanan serius pada lapisan infrastruktur agar bisa berkembang dengan cepat. Melatih dan melayani model yang hampir berjumlah triliun parameter memerlukan arsitektur komputasi yang secara mendasar berbeda dibandingkan yang bisa ditangani kebanyakan infrastruktur saat ini.
Bottleneck komputasi itu nyata. Jika open weights menjadi standar, framework pelatihan terdistribusi dan optimasi inferensi harus berevolusi melampaui pengaturan cluster GPU saat ini.
Ironinya? Orang-orang yang dulu merintis sistem AI tertutup kini all-in pada open weights. Perubahan ini memberi tekanan serius pada lapisan infrastruktur agar bisa berkembang dengan cepat. Melatih dan melayani model yang hampir berjumlah triliun parameter memerlukan arsitektur komputasi yang secara mendasar berbeda dibandingkan yang bisa ditangani kebanyakan infrastruktur saat ini.
Bottleneck komputasi itu nyata. Jika open weights menjadi standar, framework pelatihan terdistribusi dan optimasi inferensi harus berevolusi melampaui pengaturan cluster GPU saat ini.