À quelle vitesse peut aller un modèle qui ne génère pas de texte et se contente de prendre des décisions ?
L’indien Sarvam vient de lancer Prism : il donne un résultat en 44 millisecondes sur B200. Avec une moyenne de 71,8 points sur trois benchmarks, il obtient le meilleur score parmi 25 modèles de décision en moins de 100 millisecondes ; lorsque son niveau de confiance dépasse 90 %, son taux d’erreur en anglais n’est que de 2,2 %.
Il repose sur un modèle de base de 105B, dont les poids sont entièrement ouverts sous licence Apache 2.0. Les entreprises peuvent poursuivre l’entraînement avec leurs propres données. Les modèles de chat rivalisent d’intelligence ; les modèles de décision, de rapidité et de précision. C’est une autre voie.
L’indien Sarvam vient de lancer Prism : il donne un résultat en 44 millisecondes sur B200. Avec une moyenne de 71,8 points sur trois benchmarks, il obtient le meilleur score parmi 25 modèles de décision en moins de 100 millisecondes ; lorsque son niveau de confiance dépasse 90 %, son taux d’erreur en anglais n’est que de 2,2 %.
Il repose sur un modèle de base de 105B, dont les poids sont entièrement ouverts sous licence Apache 2.0. Les entreprises peuvent poursuivre l’entraînement avec leurs propres données. Les modèles de chat rivalisent d’intelligence ; les modèles de décision, de rapidité et de précision. C’est une autre voie.