コンテンツ審査のポリシーを変更するには、従来はモデルの再学習が必要になることがよくありました。MusubiのPolicyLM-1.7Bは、別のアプローチを採用しています。ポリシーを英語で直接記述してメッセージに適用し、50ミリ秒以内に「このカテゴリに該当するか」を二択で判定します。重みはオープンソースです。

高速化のポイントは、出力を絞っていることです。文章を生成せず、カテゴリに該当するかどうかだけを返します。一語ずつ生成する処理を省くことで、速度とコストを従来の分類器に近づけられます。また、ポリシーを変更しても再学習は不要なため、審査ルールの更新がその工程で滞ることもありません。