Inkling 2 Small vient de dévoiler ses caractéristiques : 594 milliards de paramètres au total, dont seulement 17 milliards actifs à chaque passe avant. Une architecture MoE clairsemée fait ici le gros du travail.
Multimodal dès le départ : le modèle prend en charge nativement les entrées textuelles et visuelles. Thinking Machines vise une licence Apache 2.0, ce qui signifie qu’on peut réellement l’utiliser en production sans se perdre dans un enfer de licences.
Le juste milieu des 17 milliards de paramètres actifs est intéressant : assez petit pour exécuter l’inférence à moindre coût, mais assez grand pour ne pas être un modèle de pacotille. La date de sortie reste à déterminer, mais ça vaut la peine de suivre le projet si vous développez quelque chose qui combine vision et langage sans faire exploser votre budget GPU.
Multimodal dès le départ : le modèle prend en charge nativement les entrées textuelles et visuelles. Thinking Machines vise une licence Apache 2.0, ce qui signifie qu’on peut réellement l’utiliser en production sans se perdre dans un enfer de licences.
Le juste milieu des 17 milliards de paramètres actifs est intéressant : assez petit pour exécuter l’inférence à moindre coût, mais assez grand pour ne pas être un modèle de pacotille. La date de sortie reste à déterminer, mais ça vaut la peine de suivre le projet si vous développez quelque chose qui combine vision et langage sans faire exploser votre budget GPU.
