A Meta pretende reduzir os custos de operação de agentes de IA. Em 9 de novembro, a empresa lançou o Muse Ember, um modelo leve que executa as tarefas repetitivas que mantêm os agentes de IA ocupados. Ao contrário de outros modelos, o Ember não tem como objetivo resolver tarefas complexas, mas sim concentrar-se em realizar tarefas rotineiras pelo menor custo possível.
Criado para dar conta do volume enquanto o Muse Wonder planeja
A Meta criou o Ember para realizar o trabalho rotineiro que mantém os agentes de IA em funcionamento. Ele pode usar outras ferramentas de software, encaminhar solicitações ao sistema adequado, extrair informações de documentos e processar arquivos extensos. O Ember também pode realizar tarefas menores de programação, como executar testes e fazer correções específicas.
Para tomar decisões mais complexas, a Meta combina o Muse Wonder, um modelo de raciocínio superior, com o Ember. O Wonder decide como abordar uma tarefa, enquanto o Ember executa as ações menores necessárias para concluí-la. Nas palavras da Meta:
“O Muse Wonder planeja, o Muse Ember dá conta do volume.”
O Ember é a quarta iteração da linha Muse, depois do Muse Spark, do Muse Glimmer e do Muse Wonder. Os desenvolvedores podem acessá-lo pela Meta Model API e pelo Muse Code. De acordo com seu plano de preços, a Meta cobra US$ 0,1 por milhão de tokens de entrada, além de US$ 0,004 por milhão de tokens de entrada em cache e US$ 0,5 por milhão de tokens de saída.
O Ember vem com uma janela de contexto de um milhão de tokens, que permite processar documentos e bases de código maiores. Também é capaz de lidar com imagens, áudio e vídeos.
O que a Artificial Analysis descobriu ao testar as alegações
Testes independentes demonstram claramente a dimensão da vantagem de custo do Ember. De acordo com a Artificial Analysis, a pontuação de 36 do Ember no Intelligence Index é igual à do Claude Haiku 5.5. No entanto, enquanto o Ember custa apenas US$ 0,14 por tarefa de benchmark, o Claude Haiku custa US$ 0,41. Os valores citados são custos estimados para os testes, não cobranças fixas pagas pelos clientes. Além disso, o Ember obteve 68,1% no AutomationBench-AA, ficando no mesmo nível do modelo mais capaz da Meta, o Muse Wonder.
No entanto, os resultados do Ember nos testes de programação foram inconsistentes. O Ember teve um desempenho melhor que o Haiku no Terminal-Bench 4.0, com pontuações de 40,9% e 32,8%, respectivamente. Mas o Haiku teve um desempenho melhor que o Ember no FrontierCode 2.0, com pontuações de 34,9% e 27,2%.
Outra área em que o Ember é fraco é o conhecimento geral. O modelo obteve apenas 21,1% de precisão no AA-Omniscience e deixou de responder a 64% das perguntas. Graças à sua postura cautelosa, o Ember conseguiu manter a pontuação de alucinação em 17,4%.
A tarefa de agente do Meta Muse Ember por US$ 0,14: custo e desempenho em comparação com o Claude Haiku 5.5
Por que o custo por tarefa é a disputa que importa agora
Os preços mais baixos do Ember chegam em um momento em que as empresas estão reavaliando seus gastos com tecnologias de IA. A Gartner prevê que a demanda por agentes e assistentes de IA elevará os gastos para US$ 29,2 bilhões em 2026, como parte de um mercado de IA estimado em US$ 2,7 trilhões. À medida que aumenta o uso de tecnologias de IA, a BCG incentiva as empresas de software a considerar a cobrança por tarefas concluídas ou resultados, em vez de simplesmente cobrar por usuário licenciado. No entanto, alerta contra abandonar muito rapidamente os modelos tradicionais de assinatura.
A questão mais importante é se uma IA mais barata proporciona melhores retornos. A McKinsey argumenta que os custos dos tokens, por si só, não conseguem medir o valor para os negócios. Preços mais baixos também podem incentivar as empresas a usar mais IA. A IDC constatou que 67% das empresas ultrapassaram seus orçamentos para agentes. A empresa de pesquisa espera que os custos por ação de agente caiam 95% até 2030, mesmo com o custo total da entrega de tokens aumentando 487 vezes.
As questões de ROI, confiabilidade e supervisão
Os primeiros parceiros da Meta destacaram a velocidade do Ember. Dane Knecht, diretor de tecnologia da Cloudflare, disse que o modelo funcionava:
“até 30% mais rápido”
Chak Pothina, responsável pela inferência na You.com, relatou:
“um p95 de 2,2 segundos”
Yashodha Bhavnani, executiva da Box, disse que o Ember poderia avaliar contratos:
“cláusula por cláusula, de acordo com o manual de negociação de uma empresa”
Esses resultados são promissores, mas vêm de testes realizados por parceiros. As empresas ainda precisam avaliar o desempenho do Ember em suas próprias operações.
A confiabilidade também vai além da velocidade. O FII Institute cita resultados de uma pesquisa que mostram que 73% dos entrevistados estão preocupados com a privacidade e a segurança dos dados de IA. Enquanto isso, uma pesquisa da McKinsey constatou que apenas cerca de 30% das organizações atingiram níveis mais altos de maturidade na governança de IA agêntica.
As pressões sobre os custos vão além dos próprios modelos. A recente emissão de US$ 15 bilhões em títulos da Meta destaca o custo de construir infraestrutura de IA. A Cryptopolitan também noticiou os crescentes investimentos da Meta em centros de dados.
Se você está lendo isto, já está um passo à frente. Continue assim com a nossa newsletter.