英伟达正全力研发至少1万亿参数的开源模型Nemotron 4，旨在降低对OpenAI等头部客户及云巨头的依赖。公司不仅通过回租服务器将云服务算力承诺大幅增至280亿美元，还组建了包括Mistral、Cursor等在内的“Nemotron联盟”共建生态。英伟达美股盘前涨近2%。
英伟达正大力押注自研开源人工智能模型，试图以此扩大GPU需求——尽管这项策略同时也将其推入与自身客户和投资对象正面竞争的微妙境地。
Selon le journal The Information du 11, l’objectif d’Nvidia est de donner au plus haut niveau de performance de Nemotron 4 une allure comparable à celle des meilleurs modèles open source du monde. Plusieurs employés indiquent que le nombre de paramètres de ce modèle devrait atteindre au moins 1 000 milliards, soit environ le double de Nemotron 3 Ultra, le modèle le plus grand qu’Nvidia possède actuellement. Kari Briski, vice-présidente d’Nvidia en charge de l’IA générative, a déclaré dans un courriel : « Nvidia investit dans Nemotron, parce que nous croyons que chaque entreprise et chaque pays ont besoin de modèles open source de pointe, accessibles. »
La demande actuelle de Nvidia en matière de puces est fortement concentrée sur quelques laboratoires de pointe et fournisseurs de services cloud, comme OpenAI, Microsoft et SpaceX, qui déploient de plus en plus leurs puces d’IA en interne. La promotion de Nemotron 4 vise à étendre la base de demande vers un public d’utilisateurs entreprises plus large, afin de réduire la dépendance d’Nvidia envers ses clients de tête. Anastasios Angelopoulos, PDG de l’organisme d’évaluation des modèles IA Arena, déclare : « Peu importe quelle entreprise produit un excellent modèle open source, Nvidia est le gagnant. »
Les actions d’Nvidia ont monté d’environ 2 % avant l’ouverture du marché américain.
Objectif : 1 000 milliards de paramètres ; triplement des investissements en puissance de calcul
D’après plusieurs employés impliqués dans le projet Nemotron, le plus grand modèle Nemotron 4 qu’Nvidia prévoit de développer devrait compter au moins 1 000 milliards de paramètres, soit environ deux fois le modèle le plus grand existant, Nemotron 3 Ultra, publié en juin de cette année. La taille des paramètres de ce modèle restera encore bien inférieure à celle des principaux modèles open source chinois, mais Nvidia souligne en parallèle que ses techniques de compression permettraient à un modèle plus petit d’afficher des performances supérieures.
En termes d’investissement en puissance de calcul, la détermination d’Nvidia se reflète dans l’importante expansion de ses engagements financiers. Selon des informations, l’entreprise obtient de la puissance de calcul en louant des serveurs d’IA à des fournisseurs de cloud qui achètent ses puces. D’ici avril de cette année, la valeur totale des engagements pluriannuels d’Nvidia envers les services cloud a atteint 28 milliards de dollars au début de 2031, soit environ trois fois le montant divulgué un an plus tôt. Pour les dépenses concernées sur l’exercice en cours (jusqu’en janvier 2028), elles se chiffreraient à environ 7 milliards de dollars : bien moins que les niveaux d’investissement d’OpenAI et d’Anthropic, mais supérieur au total des levées de fonds historiques de la grande majorité des principaux laboratoires open source aux États-Unis et en Chine.
Au niveau de l’effectif de chercheurs et développeurs, le projet Nemotron continue lui aussi de s’étendre. Le nombre d’auteurs signataires des articles de recherche du dernier modèle majeur d’Nvidia s’élevait à 570 personnes ; plusieurs employés indiquent que le nombre de participants à Nemotron 4 sera encore plus important. « Maintenant, tout le monde veut participer », a déclaré un ancien employé.
Constitution de « Nemotron Alliance » : élargir le cercle des partenaires de l’écosystème open source
Pour accélérer le développement de Nemotron 4, Nvidia a construit un réseau de coopération appelé « Nemotron Alliance ». Ses membres incluent des développeurs open source comme Reflection, Cursor, Thinking Machines et Mistral. Tout en faisant avancer leurs propres projets de modèles, chaque partie contribue à Nemotron 4 via des données d’entraînement, un soutien à l’évaluation et des propositions de conception du modèle.
En outre, selon une personne directement impliquée dans la collaboration, la startup Prime Intellect, spécialisée dans l’entraînement de modèles d’IA, a contribué à ce projet en fournissant 300 000 environnements de simulation pour aider à l’entraînement du modèle. La startup d’outils de programmation IA, Cognition, fait également partie des membres de l’alliance : d’après des personnes informées, l’entreprise a engagé des discussions avec Nvidia au sujet de la fourniture de données d’entraînement de code, mais la coopération concernée n’a pas encore été officiellement annoncée au public.
Les motivations de participation des membres de l’alliance varient. Certaines entreprises cherchent à élargir leur part de marché grâce à la stimulation de l’écosystème open source par Nvidia ; d’autres s’attendent à orienter, à moindre coût, le développement d’un modèle de haute qualité qu’elles pourront ensuite utiliser, afin d’éviter la charge de devoir supporter elles-mêmes les coûts de calcul d’entraînement. Le PDG de Prime Intellect, Vincent Weisser, décrit cette alliance comme une action collective visant à contrer la monopolisation par un unique « modèle de type dieu », plutôt que comme un jeu à somme nulle visant à obtenir le titre du meilleur modèle open source.
La frontière entre clients et concurrents tend à s’effacer
Nemotron 4 place les dirigeants d’Nvidia dans une tension structurelle délicate. D’un côté, OpenAI a longtemps été un moteur majeur de la demande en puces d’Nvidia : Nvidia y a investi 30 milliards de dollars. De l’autre, le positionnement de Nemotron 4 consiste précisément à offrir aux entreprises une alternative moins coûteuse, entrant ainsi en concurrence avec le modèle commercial d’OpenAI et d’autres laboratoires de pointe. Dans le même temps, les entreprises de l’alliance, notamment Reflection AI et Thinking Machines, sont aussi des startups open source dans lesquelles Nvidia a déjà investi.
Cependant, pour Nvidia, cette logique de concurrence n’est pas nécessairement un jeu à somme nulle. Anastasios Angelopoulos, PDG d’Arena, affirme : « Peu importe quelle entreprise produit un excellent modèle open source, Nvidia est le gagnant. » Le cœur de la logique d’Nvidia est le suivant : plus l’écosystème open source est florissant et plus les acteurs participants sont diversifiés, plus la demande globale en GPU est forte.
À ce stade, les modèles de la série Nemotron ont déjà trouvé une certaine adoption sur le marché. En juin de cette année, Palantir a annoncé sa collaboration avec Nvidia pour utiliser les modèles Nemotron pour des clients du gouvernement américain. Mais d’après les résultats de tests de référence publiés par des organismes tels qu’Arena et Artificial Analysis, le plus grand modèle actuel d’Nvidia, Nemotron 3 Ultra, n’occupe que la deuxième place parmi les modèles open source aux États-Unis, derrière le modèle Inkling nouvellement publié de Thinking Machines, et se situe également en dehors du top 40 au classement global des modèles.
Le calendrier de publication reste flou
Malgré l’ampleur du projet, la date de publication de Nemotron 4 reste très incertaine. Plusieurs employés affirment qu’Nvidia a déjà pris certaines décisions concernant les données de pré-entraînement et l’architecture, mais n’a pas encore finalisé les spécifications ni la date de publication, et l’étape finale d’entraînement n’a pas encore démarré : elle devrait durer plusieurs mois. Deux employés estiment que le modèle pourrait être publié à la fin de l’automne de cette année au plus tôt, tandis qu’un autre pense que ce sera probablement plus tard.
Dans le même temps, Nvidia a déjà publié cette semaine une version plus petite de la série Nemotron : Nemotron 3.5 Lightning. Ce modèle met l’accent sur l’exécution des tâches d’agents d’IA avec la plus grande rapidité et efficacité possible. Nvidia a également publié en parallèle un logiciel gratuit de routage des modèles, afin d’aider les entreprises à construire plus facilement leurs propres outils de routage de modèles et à répartir automatiquement des tâches d’IA spécifiques vers le modèle le plus optimal et le plus économique pour les traiter.
En janvier de cette année, le vice-président d’Nvidia en charge de la recherche en apprentissage profond, Bryan Catanzaro, a déclaré dans un podcast que « investir dans Nemotron est essentiel pour l’avenir de notre entreprise ». Le PDG d’Nvidia, Jensen Huang, a également exprimé publiquement son soutien à l’open source dans un courriel le mois dernier, en disant que les modèles open source « favorisent la sécurité, la cybersécurité, les progrès scientifiques et la sécurité nationale ».
