Revolut ha logrado reducir un 90 % los costos de IA al pasar de los servicios comerciales de OpenAI y Anthropic a los modelos GLM chinos que se ejecutan en infraestructura dedicada, según David Abitbol, su responsable de operaciones de IA. Esta configuración presta servicio a unos 2.000 ingenieros, y el ahorro declarado vino acompañado de respuestas más rápidas y tiempos de desarrollo más cortos.

Conclusiones clave

• Revolut ejecuta GLM 5.3 con 56 GPU NVIDIA B200.

• El costo promedio de procesamiento es de 0,30 $ por millón de tokens.

• La latencia de respuesta inicial se redujo un 88 % sin añadir GPU.

• Los modelos gestionados internamente funcionan con controles de acceso y seguimiento de la actividad.

Cómo logró Revolut reducir sus costes de IA

La configuración de Revolut se centra en GLM 5.3, desarrollado por el equipo chino Z.ai, antes conocido como Zhipu AI. En lugar de recurrir por defecto a servicios comerciales de modelos, Revolut ejecuta el modelo en una infraestructura dedicada bajo su control.

Abitbol dijo que 56 GPU NVIDIA B200, basadas en la arquitectura Blackwell, gestionan las cargas de trabajo de unos 2.000 ingenieros. La infraestructura está optimizada para ofrecer respuestas rápidas y atender varias solicitudes simultáneas.

Este cambio no significa que hayan desaparecido todas las herramientas externas de IA. Claude Code, Codex y Gemini siguen disponibles, principalmente para tareas en las que ofrecen ventajas claras frente a los modelos operados internamente.

Respuestas más rápidas con el mismo hardware

Entre abril y agosto de 2026, Revolut redujo el tiempo hasta el primer token (TTFT) de 14,26 segundos a 1,68 segundos sin modificar el número de GPU. Esto supuso una mejora del 88 % en la latencia inicial, mientras que las solicitudes por segundo aumentaron un 76 %.

El TTFT mide cuánto hay que esperar antes de que un modelo empiece a responder. Abitbol lo considera la medida de rendimiento más importante y establece como objetivo que sea inferior a tres segundos; a partir de cinco segundos, las respuestas empiezan a parecer lentas. Dijo que una velocidad de generación de unos 200 tokens por segundo es suficiente para el trabajo habitual de ingeniería, que cada vez implica más agentes de IA cuyos resultados los desarrolladores revisan posteriormente.

Una optimización importante es la cuantización FP4, que almacena los valores usando cuatro bits en lugar de los ocho de FP8, lo que reduce los requisitos de memoria. Según Abitbol, pasar a FP8 requeriría alrededor de un 40 % más de recursos de GPU, sin mejoras significativas de precisión para las cargas de trabajo de desarrollo de Revolut.

Revolut también busca que la tasa de aciertos de la caché KV supere el 90 % en las tareas de programación. La caché de clave-valor conserva resultados intermedios para que el sistema pueda reutilizar información procesada previamente, reduciendo la latencia y la carga de las GPU cuando los desarrolladores trabajan con patrones de código recurrentes.

Es necesario equilibrar la capacidad de la caché, la longitud del contexto y las solicitudes simultáneas. Abitbol señaló que algunos modelos admiten contextos de hasta un millón de tokens, pero los contextos más largos consumen más memoria y pueden limitar las solicitudes simultáneas. Revolut restringe la información procesada cuando no hace falta ampliar el contexto. Otras técnicas consideradas incluyen la decodificación especulativa y la optimización de las fases de procesamiento de solicitudes.

Menor coste por token y plazos de desarrollo más cortos

Según Revolut, el coste de procesamiento de la empresa por millón de tokens es, de media, de 0,30 dólares, mientras que la velocidad de programación ha aumentado un 60 % y los plazos de desarrollo se han acortado un 70 %. En comparación con lo que antes pagaba por los servicios de OpenAI y Anthropic, su gasto total en IA ahora representa aproximadamente una décima parte de aquella cantidad.

Estos avances se suman a una implementación anterior de Gemini en enero de 2025, cuando los primeros datos internos mostraron que el tiempo de programación se redujo un 20 % y los plazos de desarrollo, un 10 %.

Al principio, la rentabilidad de Claude Code era menos convincente, ya que el uso intensivo llevó a la empresa a imponer límites de gasto. Revolut consiguió reducir aún más los costes de IA al pasar a modelos GLM gestionados internamente y aplicar técnicas como la cuantización, la gestión de memoria y la optimización de la inferencia para sacar más rendimiento de sus aceleradores existentes antes de invertir en hardware adicional.

La ejecución interna mantiene el control sobre el flujo de datos

Usar un modelo desarrollado en China no significa necesariamente que Revolut envíe solicitudes a su creador. Los pesos del modelo se descargan y se ejecutan en una infraestructura seleccionada, lo que permite a Revolut controlar el flujo de datos utilizado para la inferencia.

Abitbol describió una arquitectura basada en el aislamiento, las reglas de autorización y la supervisión humana. Las políticas determinan qué operaciones de los agentes están permitidas o bloqueadas, mientras que la telemetría registra la actividad para ayudar a reconstruir lo que hizo el sistema e identificar anomalías.

Revolut combina modelos ejecutados internamente con acceso controlado y operaciones trazables. Sus agentes de programación operan bajo políticas de autorización, y la telemetría permite supervisar sus acciones.

Artículo elaborado con ayuda de inteligencia artificial y revisado por el equipo editorial.