Meta cherche à réduire les coûts d’exploitation des agents d’IA. Le 9 novembre, l’entreprise a lancé Muse Ember, un modèle léger conçu pour effectuer les tâches répétitives qui occupent les agents d’IA. Contrairement à d’autres modèles, Ember ne cherche pas à résoudre des tâches complexes, mais se concentre plutôt sur le travail courant, au coût le plus bas possible.
Conçu pour traiter de gros volumes, tandis que Muse Wonder planifie
Meta a conçu Ember pour effectuer le travail courant qui permet aux agents d’IA de fonctionner. Il peut faire appel à d’autres outils logiciels, acheminer les requêtes vers le système approprié, extraire des informations de documents et traiter de longs fichiers. Ember peut également s’occuper de petites tâches de programmation, comme exécuter des tests et apporter des corrections ciblées.
Pour prendre des décisions plus complexes, Meta combine Muse Wonder, un modèle de raisonnement supérieur, et Ember. Wonder décide comment aborder une tâche, tandis qu’Ember exécute les actions plus simples nécessaires à son accomplissement. Pour reprendre les mots de Meta :
« Muse Wonder planifie, Muse Ember traite le volume. »
Ember est la quatrième version de la gamme Muse, après Muse Spark, Muse Glimmer et Muse Wonder. Les développeurs peuvent y accéder via l’API Meta Model et Muse Code. Selon sa grille tarifaire, Meta facture 0,1 $ par million de jetons d’entrée, ainsi que 0,004 $ par million de jetons d’entrée mis en cache et 0,5 $ par million de jetons de sortie.
Ember dispose d’une fenêtre de contexte d’un million de jetons, ce qui lui permet de traiter des documents et des bases de code plus volumineux. Il peut également traiter des images, de l’audio et des vidéos.
Ce qu’Artificial Analysis a découvert en vérifiant ces affirmations
Des tests indépendants montrent clairement l’ampleur de l’avantage tarifaire d’Ember. Selon Artificial Analysis, Ember obtient un score de 36 à l’Intelligence Index, soit le même que Claude Haiku 5.5. Cependant, Ember ne coûte que 0,14 $ par tâche de benchmark, contre 0,41 $ pour Claude Haiku. Les chiffres cités sont des estimations du coût des tests, et non des frais fixes payés par les clients. Par ailleurs, Ember a obtenu un score de 68,1 % à AutomationBench-AA, se plaçant ainsi au niveau de Muse Wonder, le modèle plus performant de Meta.
Cependant, ses résultats aux tests de programmation étaient inégaux. Ember a obtenu de meilleurs résultats que Haiku à Terminal-Bench 4.0, avec des scores respectifs de 40,9 % et 32,8 %. En revanche, Haiku a fait mieux qu’Ember à FrontierCode 2.0, avec des scores respectifs de 34,9 % et 27,2 %.
Les connaissances générales constituent un autre point faible d’Ember. Le modèle n’a obtenu que 21,1 % de bonnes réponses à AA-Omniscience et s’est abstenu de répondre à 64 % des questions. Grâce à sa prudence, Ember a limité son score d’hallucination à 17,4 %.
La tâche d’agent à 0,14 $ de Meta Muse Ember : coût et performances par rapport à Claude Haiku 5.5
Pourquoi le coût par tâche est désormais l’enjeu crucial
La baisse des tarifs d’Ember intervient à un moment où les entreprises réévaluent leurs dépenses en technologies d’IA. Gartner prévoit que la demande en agents et assistants d’IA portera les dépenses à 29,2 milliards de dollars en 2026, dans le cadre d’un marché de l’IA estimé à 2 700 milliards de dollars. À mesure que l’utilisation des technologies d’IA se développe, BCG encourage les éditeurs de logiciels à envisager une facturation basée sur les tâches ou les résultats obtenus, plutôt que sur le nombre d’utilisateurs disposant d’une licence. L’entreprise met toutefois en garde contre un abandon trop rapide des formules d’abonnement traditionnelles.
La question essentielle est de savoir si une IA moins chère offre un meilleur rendement. McKinsey estime que le seul coût des jetons ne permet pas de mesurer la valeur commerciale. Des prix plus bas pourraient aussi inciter les entreprises à utiliser davantage l’IA. IDC a constaté que 67 % des entreprises avaient dépassé le budget prévu pour leurs agents. Le cabinet d’études prévoit que le coût par action d’agent diminuera de 95 % d’ici 2030, même si le coût total de livraison des jetons sera multiplié par 487.
Les questions de retour sur investissement, de fiabilité et de supervision
Les premiers partenaires de Meta ont souligné la rapidité d’Ember. Dane Knecht, directeur technique de Cloudflare, a déclaré que le modèle fonctionnait :
« jusqu’à 30 % plus rapidement »
Chak Pothina, responsable de l’inférence chez You.com, a indiqué :
« un p95 de 2,2 secondes »
Yashodha Bhavnani, cadre chez Box, a déclaré qu’Ember pouvait évaluer des contrats :
« clause par clause, au regard du guide de négociation d’une entreprise »
Ces résultats sont prometteurs, mais ils proviennent de tests réalisés par des partenaires. Les entreprises doivent encore évaluer les performances d’Ember dans le cadre de leurs propres activités.
La fiabilité ne se résume pas non plus à la rapidité. Le FII Institute cite les résultats d’une enquête selon lesquels 73 % des personnes interrogées s’inquiètent de la confidentialité et de la sécurité des données utilisées par l’IA. Par ailleurs, une enquête de McKinsey a révélé que seulement 30 % environ des organisations avaient atteint un niveau de maturité élevé en matière de gouvernance de l’IA agentique.
Les pressions sur les coûts ne concernent pas uniquement les modèles. La récente émission obligataire de Meta, d’un montant de 15 milliards de dollars, met en évidence le coût de la construction d’infrastructures d’IA. Cryptopolitan a également rendu compte des investissements croissants de Meta dans ses centres de données.
Si vous lisez ceci, vous avez déjà une longueur d’avance. Gardez-la grâce à notre newsletter.