Meta busca reducir los costos de operar agentes de IA. El 9 de noviembre, la empresa lanzó Muse Ember, un modelo ligero diseñado para realizar las tareas repetitivas que mantienen ocupados a los agentes de IA. A diferencia de otros, Ember no busca resolver tareas complejas, sino que se centra en realizar el trabajo rutinario al menor costo posible.
Diseñado para gestionar grandes volúmenes mientras Muse Wonder planifica
Meta creó Ember para realizar el trabajo rutinario que mantiene en funcionamiento a los agentes de IA. Puede llamar a otras herramientas de software, dirigir solicitudes al sistema adecuado, extraer información de documentos y procesar archivos extensos. Ember también puede encargarse de pequeñas tareas de programación, como ejecutar pruebas y realizar correcciones específicas.
Para tomar decisiones más complejas, Meta combina Muse Wonder, un modelo de razonamiento superior, con Ember. Wonder decide cómo abordar una tarea, mientras que Ember ejecuta las acciones más pequeñas necesarias para completarla. En palabras de Meta:
«Muse Wonder planifica; Muse Ember se encarga del volumen.»
Ember es la cuarta iteración de la línea Muse, después de Muse Spark, Muse Glimmer y Muse Wonder. Los desarrolladores pueden acceder a él a través de Meta Model API y Muse Code. Según su plan de precios, Meta cobra 0,1 $ por cada millón de tokens de entrada, además de 0,004 $ por cada millón de tokens de entrada almacenados en caché y 0,5 $ por cada millón de tokens de salida.
Ember cuenta con una ventana de contexto de un millón de tokens, que le permite procesar documentos y bases de código más grandes. También puede procesar imágenes, audio y videos.
Qué descubrió Artificial Analysis al poner a prueba estas afirmaciones
Las pruebas independientes demuestran claramente hasta qué punto Ember ofrece una ventaja en costos. Según Artificial Analysis, la puntuación de Ember, de 36 en el Intelligence Index, es igual a la de Claude Haiku 5.5. Sin embargo, mientras que Ember cuesta solo 0,14 $ por tarea de referencia, Claude Haiku cuesta 0,41 $. Las cifras citadas son costos estimados de las pruebas, no cargos fijos que paguen los clientes. Además, Ember obtuvo un 68,1 % en AutomationBench-AA, lo que lo sitúa a la par del modelo más capaz de Meta, Muse Wonder.
Sin embargo, los resultados de sus pruebas de programación fueron irregulares. Ember superó a Haiku en Terminal-Bench 4.0, con puntuaciones del 40,9 % y el 32,8 %, respectivamente. Pero Haiku obtuvo mejores resultados que Ember en FrontierCode 2.0, con puntuaciones del 34,9 % y el 27,2 %.
Otro punto débil de Ember son los conocimientos generales. El modelo solo acertó el 21,1 % en AA-Omniscience y no respondió al 64 % de las consultas. Gracias a su enfoque prudente, Ember logró mantener su puntuación de alucinaciones en el 17,4 %.
La tarea de agente de Meta Muse Ember por 0,14 $: costo y rendimiento frente a Claude Haiku 5.5
Por qué el costo por tarea es la batalla que importa ahora
Los precios más bajos de Ember llegan en un momento en que las empresas están reconsiderando sus gastos en tecnologías de IA. Gartner prevé que la demanda de agentes y asistentes de IA elevará el gasto a 29.200 millones de dólares en 2026, como parte de un mercado de IA que, según sus previsiones, alcanzará los 2,7 billones de dólares. A medida que aumenta el uso de tecnologías de IA, BCG anima a las empresas de software a explorar el cobro por tareas completadas o resultados, en lugar de cobrar simplemente por cada usuario con licencia. Sin embargo, advierte que no se deben abandonar demasiado rápido los modelos tradicionales de suscripción.
La pregunta más importante es si una IA más barata ofrece mejores resultados. McKinsey sostiene que el costo de los tokens, por sí solo, no permite medir el valor empresarial. Los precios más bajos también pueden animar a las empresas a utilizar más IA. IDC descubrió que el 67 % de las empresas superó sus presupuestos para agentes. La firma de investigación espera que el costo por acción de agente caiga un 95 % para 2030, aunque el costo total de entrega de tokens aumente 487 veces.
Las preguntas sobre el ROI, la confiabilidad y la supervisión
Los primeros socios de Meta han destacado la velocidad de Ember. Dane Knecht, director de tecnología de Cloudflare, dijo que el modelo funcionaba:
«hasta un 30 % más rápido»
Chak Pothina, responsable de inferencia de You.com, informó de:
«un p95 de 2,2 segundos»
Yashodha Bhavnani, ejecutivo de Box, dijo que Ember podía evaluar contratos:
«cláusula por cláusula, comparándolos con las pautas de negociación de una empresa»
Estos resultados son prometedores, pero proceden de pruebas realizadas por socios. Las empresas aún deben evaluar el rendimiento de Ember en sus propias operaciones.
La confiabilidad también va más allá de la velocidad. El FII Institute cita resultados de una encuesta que muestran que al 73 % de los encuestados le preocupan la privacidad y la seguridad de los datos de IA. Mientras tanto, una encuesta de McKinsey reveló que solo alrededor del 30 % de las organizaciones alcanzó niveles más altos de madurez en la gobernanza de la IA agéntica.
Las presiones sobre los costos van más allá de los propios modelos. La reciente venta de bonos de Meta por 15.000 millones de dólares pone de relieve el costo de construir infraestructura de IA. Cryptopolitan también ha informado sobre las crecientes inversiones de Meta en centros de datos.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.