花火AIのCEO、リン・チャオが最近「後学習(ポストトレーニング)」について語った動画がなかなか良いと思いました。ここに、とても重要なトレンドがある気がします。今後は、いくつかの超大型モデルがすべてのAIアプリを食い尽くすのではなく、数百万もの垂直(特化型)モデルが登場してくる可能性がある、ということです。

この変化は、実はもう始まっています。Cursorはずいぶん前から自社のユーザーデータで後学習を行っており、数か月ごとにモデルを更新しています。Doximityは医療領域で自社の臨床AIを学習しています。法律、金融、採用、営業、カスタマーサポートといった分野でも、同様の取り組みが始まっています。

今日のAIプロダクトのUIや機能、さらにはワークフローであれば、相手は数週間で模倣できます。本当に模倣できないのは、数十万人のユーザーにサービスを提供した後に積み上がったデータ、そして、その業界において「良い答え」とは何か——という判断と理解です。後学習とは、こうした判断と理屈をモデルに書き込むことです。

さらに、現実的なメリットもあります。リン・チャオによれば、後学習を経た一部のモデルは、性能が最高の汎用モデルに近づくだけでなく、場合によっては上回ることもあり、しかも推論コストを5〜10倍も下げられるそうです。

今後、多くの垂直AI企業が一定規模に達したら、OpenAIやAnthropicのAPIを呼び続けることに満足しなくなるはずです。まず最強モデルでPMFを見つけ、データとユーザーが揃ったら、自社モデルの学習(訓練)を始める。そういう流れになるでしょう。

元動画:Post-Training Is How You Keep Your Taste :https://youtu.be/yAvJ7b_FxUA?si=8IZ_nJiu_avnyBTM