Dans la modération de contenu, changer de politique signifiait souvent devoir réentraîner le modèle. PolicyLM-1.7B de Musubi adopte une autre approche : les politiques sont rédigées directement en anglais et appliquées aux messages. En 50 millisecondes, le modèle indique simplement si un message appartient ou non à une catégorie, et ses poids sont en open source.
Son gain de vitesse vient du fait que ses réponses sont limitées : il ne génère pas de texte, il indique seulement si la catégorie correspond. En évitant de générer du texte mot à mot, il peut se rapprocher des classificateurs traditionnels en matière de vitesse et de coût. Les politiques peuvent aussi être modifiées sans réentraînement, ce qui évite que l’évolution des règles de modération ne soit freinée par cette étape.
Son gain de vitesse vient du fait que ses réponses sont limitées : il ne génère pas de texte, il indique seulement si la catégorie correspond. En évitant de générer du texte mot à mot, il peut se rapprocher des classificateurs traditionnels en matière de vitesse et de coût. Les politiques peuvent aussi être modifiées sans réentraînement, ce qui évite que l’évolution des règles de modération ne soit freinée par cette étape.