Fireworks AI CEO Lin Qiao baru-baru ini membagikan video tentang “post-training” yang menurut saya bagus. Di dalamnya ada satu tren yang sangat penting: ke depan, kemungkinan besar bukan hanya beberapa model besar yang akan menguasai semua aplikasi AI, melainkan akan muncul jutaan model vertikal.
Perubahan ini sebenarnya sudah dimulai. Cursor sejak lama menggunakan data pengguna mereka sendiri untuk post-training, dan setiap beberapa bulan memperbarui modelnya; Doximity melatih AI klinis mereka sendiri di bidang medis; sementara hukum, keuangan, rekrutmen, penjualan, layanan pelanggan, dan bidang-bidang lain juga mulai melakukan hal serupa.
Hari ini, UI, fitur, bahkan workflow sebuah produk AI bisa ditiru orang lain dalam hitungan minggu. Yang benar-benar tidak bisa ditiru, adalah data yang terkumpul setelah sebuah perusahaan melayani puluhan ribu bahkan ratusan ribu pengguna, serta cara pandang perusahaan tentang apa yang disebut “jawaban terbaik” dalam industri tersebut. Post-training adalah cara memasukkan penilaian dan pemahaman itu langsung ke dalam model.
Selain itu, ada juga manfaat yang sangat nyata: Lin Qiao menyebutkan, beberapa model yang sudah menjalani post-training tidak hanya bisa mendekati bahkan melampaui model umum terkuat, tetapi juga biaya inferensinya bisa turun 5–10 kali.
Ke depannya, setelah banyak perusahaan AI vertikal mencapai skala tertentu, mereka tidak akan puas hanya terus memanggil API OpenAI atau Anthropic. Mulai dengan model terkuat untuk menemukan PMF, lalu setelah punya data dan pengguna, barulah mulai melatih model mereka sendiri.
Video aslinya: Post-Training Is How You Keep Your Taste :https://youtu.be/yAvJ7b_FxUA?si=8IZ_nJiu_avnyBTM
Perubahan ini sebenarnya sudah dimulai. Cursor sejak lama menggunakan data pengguna mereka sendiri untuk post-training, dan setiap beberapa bulan memperbarui modelnya; Doximity melatih AI klinis mereka sendiri di bidang medis; sementara hukum, keuangan, rekrutmen, penjualan, layanan pelanggan, dan bidang-bidang lain juga mulai melakukan hal serupa.
Hari ini, UI, fitur, bahkan workflow sebuah produk AI bisa ditiru orang lain dalam hitungan minggu. Yang benar-benar tidak bisa ditiru, adalah data yang terkumpul setelah sebuah perusahaan melayani puluhan ribu bahkan ratusan ribu pengguna, serta cara pandang perusahaan tentang apa yang disebut “jawaban terbaik” dalam industri tersebut. Post-training adalah cara memasukkan penilaian dan pemahaman itu langsung ke dalam model.
Selain itu, ada juga manfaat yang sangat nyata: Lin Qiao menyebutkan, beberapa model yang sudah menjalani post-training tidak hanya bisa mendekati bahkan melampaui model umum terkuat, tetapi juga biaya inferensinya bisa turun 5–10 kali.
Ke depannya, setelah banyak perusahaan AI vertikal mencapai skala tertentu, mereka tidak akan puas hanya terus memanggil API OpenAI atau Anthropic. Mulai dengan model terkuat untuk menemukan PMF, lalu setelah punya data dan pengguna, barulah mulai melatih model mereka sendiri.
Video aslinya: Post-Training Is How You Keep Your Taste :https://youtu.be/yAvJ7b_FxUA?si=8IZ_nJiu_avnyBTM