A Revolut conseguiu reduzir os custos de IA em 90% ao substituir os serviços comerciais da OpenAI e da Anthropic por modelos chineses GLM executados em infraestrutura dedicada, segundo David Abitbol, responsável pelas operações de IA da empresa. A configuração atende cerca de 2.000 engenheiros — e a economia relatada veio acompanhada de respostas mais rápidas e prazos de desenvolvimento mais curtos.

Principais conclusões

• A Revolut executa o GLM 5.3 usando 56 GPUs NVIDIA B200.

• Os custos médios de processamento são de US$ 0,30 por milhão de tokens.

• A latência da resposta inicial caiu 88% sem adicionar GPUs.

• Os modelos geridos internamente operam com controlos de acesso e registo de atividade.

Como a Revolut conseguiu reduzir os custos com IA

A configuração da Revolut centra-se no GLM 5.3, desenvolvido pela equipa chinesa Z.ai, anteriormente chamada Zhipu AI. Em vez de recorrer a serviços comerciais de modelos como opção predefinida, a Revolut executa o modelo numa infraestrutura dedicada sob o seu controlo.

Abitbol afirmou que 56 GPUs NVIDIA B200, baseadas na arquitetura Blackwell, processam as cargas de trabalho de cerca de 2.000 engenheiros. A infraestrutura está otimizada para respostas rápidas e vários pedidos simultâneos.

Esta mudança não significa que todas as ferramentas externas de IA tenham desaparecido. Claude Code, Codex e Gemini continuam disponíveis, sobretudo para tarefas em que oferecem vantagens claras em relação aos modelos operados internamente.

Respostas mais rápidas com o mesmo hardware

Entre abril e agosto de 2026, a Revolut reduziu o tempo até ao primeiro token, ou TTFT, de 14,26 segundos para 1,68 segundos, mantendo inalterado o número de GPUs. Isso representou uma melhoria de 88% na latência inicial, mesmo com o aumento de 76% nos pedidos por segundo.

O TTFT mede o tempo de espera até o modelo começar a responder. Abitbol considera-o a métrica de desempenho mais importante, com uma meta inferior a três segundos; acima de cinco segundos, as respostas começam a parecer lentas. Segundo ele, velocidades de geração de cerca de 200 tokens por segundo são suficientes para o trabalho normal de engenharia, que envolve cada vez mais agentes de IA cujos resultados são revistos posteriormente pelos programadores.

Uma das principais otimizações é a quantização FP4, que armazena valores usando quatro bits em vez dos oito usados pela FP8, reduzindo os requisitos de memória. Segundo Abitbol, a mudança para FP8 exigiria cerca de 40% mais recursos de GPU, sem ganhos significativos de precisão nas cargas de trabalho de desenvolvimento da Revolut.

A Revolut também procura manter acima de 90% a taxa de acerto da cache KV em tarefas de programação. A cache Key-Value retém resultados intermédios para que o sistema possa reutilizar informações processadas anteriormente, reduzindo a latência e a carga das GPUs quando os programadores trabalham com padrões de código recorrentes.

É necessário equilibrar a capacidade da cache, o tamanho do contexto e os pedidos simultâneos. Abitbol observou que alguns modelos suportam contextos de até um milhão de tokens, mas contextos mais longos consomem mais memória e podem limitar o número de pedidos simultâneos. A Revolut limita as informações processadas quando não é necessário contexto adicional. Entre as outras técnicas consideradas estão a descodificação especulativa e a otimização das fases de processamento dos pedidos.

Custos mais baixos por token e tempos de desenvolvimento mais curtos

Segundo a Revolut, a despesa média da empresa com processamento é de 0,30 $ por milhão de tokens, enquanto a velocidade de programação aumentou 60% e os prazos de desenvolvimento foram reduzidos em 70%. Em comparação com o que pagava anteriormente pelos serviços da OpenAI e da Anthropic, a despesa total com IA é agora cerca de um décimo desse valor.

Estes ganhos vêm na sequência da implementação anterior do Gemini, em janeiro de 2025, quando os primeiros dados internos indicaram uma redução de 20% no tempo de programação e de 10% nos prazos de desenvolvimento.

Inicialmente, a relação custo-benefício do Claude Code era menos atrativa, pois a utilização intensiva levou a empresa a impor limites de gastos. A Revolut conseguiu reduzir ainda mais os custos com IA ao passar para modelos GLM geridos internamente, aplicando técnicas como quantização, gestão de memória e otimização da inferência para extrair mais desempenho dos aceleradores existentes antes de investir em hardware adicional.

A execução interna mantém o controlo sobre o fluxo de dados

A utilização de um modelo desenvolvido na China não significa necessariamente que a Revolut envie pedidos ao seu produtor. Os pesos do modelo são descarregados e executados numa infraestrutura selecionada, permitindo à Revolut controlar o fluxo de dados usado na inferência.

Abitbol descreveu uma arquitetura baseada em isolamento em sandbox, regras de autorização e supervisão humana. As políticas determinam quais operações dos agentes são permitidas ou bloqueadas, enquanto a telemetria regista a atividade para ajudar a reconstruir o que o sistema fez e identificar anomalias.

A Revolut combina modelos executados internamente com acesso controlado e operações rastreáveis. Os seus agentes de programação operam sob políticas de autorização, com a telemetria a apoiar a supervisão das suas ações.

Artigo produzido com a ajuda de inteligência artificial e revisto pela equipa editorial.