La competencia en el mercado de chips de IA se está extendiendo del rendimiento del hardware al ecosistema de software. Meta y Google anunciaron conjuntamente el 20 de octubre la apertura del código de TorchTPU, que permite a los desarrolladores ejecutar modelos de IA directamente en las TPU de Google mediante PyTorch. Más destacable aún, Meta confirmó públicamente por primera vez que ya utiliza las TPU de Google en entornos de producción para ejecutar cargas de trabajo de inferencia de IA. Esto significa que los aceleradores desarrollados por Google ya no son una opción exclusiva de sus propios productos o de unos pocos socios, sino que empiezan a integrarse en la infraestructura de IA de grandes empresas tecnológicas.

Meta confirma que las TPU de Google ya están en producción y que no son solo un despliegue experimental

Este anuncio proviene de una comunicación técnica publicada por Google durante PyTorch Conference 2026. Google anunció que TorchTPU, desarrollado conjuntamente con Meta, ya es de código abierto. También presentó motores de inferencia nativos para vLLM y SGLang basados en TorchTPU, que permiten integrar directamente las TPU de Google con los principales frameworks actuales de inferencia de modelos de lenguaje grandes.

En particular, el anuncio conjunto de Google y el equipo de SGLang señala explícitamente que SGLang-TorchTPU ya está funcionando en el entorno de producción a gran escala de Meta.

Zongwei Zhou, responsable de PyTorch-TPU en Meta, también confirmó que el sistema es el resultado de una estrecha colaboración entre Meta, Google y SGLang. Actualmente ya puede integrarse en la infraestructura de IA existente de Meta y satisfacer las exigencias de rendimiento, fiabilidad y flexibilidad de las cargas de trabajo avanzadas de IA.

Google y Meta abren conjuntamente TorchTPU

Durante mucho tiempo, la ventaja de Nvidia en el mercado de aceleradores de IA no se ha debido únicamente a la capacidad de cálculo de sus GPU, sino también al completo ecosistema de software construido en torno a CUDA.

Los desarrolladores pueden optimizar modelos de IA con herramientas como CUDA, cuDNN y TensorRT. Además, el sólido soporte para GPU de frameworks de aprendizaje profundo como PyTorch ha convertido a Nvidia en la opción principal para el entrenamiento y la inferencia de IA. Aunque otros chips ofrezcan mejores precios o eficiencia energética, los desarrolladores pueden seguir usando GPU de Nvidia debido al coste de la migración, la compatibilidad del software y la complejidad de ingeniería.

Las TPU de Google también se han enfrentado a un problema similar. Aunque Google lleva mucho tiempo utilizando TPU para cargas de trabajo de IA como las búsquedas, la publicidad y Gemini, los desarrolladores suelen tener que recurrir a JAX, TensorFlow o a herramientas específicas de PyTorch/XLA para aprovecharlas plenamente.

TorchTPU busca cambiar esta situación. Según el anuncio oficial de PyTorch, TorchTPU es un backend nativo de PyTorch para TPU, desarrollado conjuntamente por Google y Meta, que permite que las TPU sean dispositivos de cómputo compatibles con PyTorch, igual que las GPU y las CPU.

Este diseño reduce las barreras para migrar modelos de GPU a TPU y evita que los desarrolladores tengan que reconstruir todo su flujo de trabajo para usar los chips de Google.

PyTorch afirma que TorchTPU ya es compatible con unas 450 operaciones ATen y que se ha verificado que los 5.000 modelos más descargados de Hugging Face pueden ejecutarse en este entorno. Entre ellos figuran familias de modelos populares como Qwen, DeepSeek, Gemma y Llama.

vLLM y SGLang ofrecen compatibilidad total con TPU: Google desafía a Nvidia en el mercado de la inferencia

Además de la compatibilidad nativa con PyTorch, otro avance importante anunciado esta vez es la integración oficial de las TPU de Google con dos de los principales frameworks de inferencia de IA: vLLM y SGLang. Estos frameworks se utilizan ampliamente para ofrecer servicios basados en modelos de lenguaje grandes e incluyen funciones como procesamiento por lotes, gestión de KV Cache, decodificación especulativa e inferencia distribuida. Así ayudan a los proveedores de servicios de IA a gestionar un gran volumen de solicitudes de tokens con menores costes.

Hasta ahora, la madurez del ecosistema de software de inferencia había sido una importante ventaja competitiva de las GPU de Nvidia. La integración de la compatibilidad nativa con TPU en vLLM y SGLang por parte de Google significa que los desarrolladores pueden conservar los modelos y frameworks de inferencia que ya conocen y elegir distintos chips según el precio, el rendimiento y la disponibilidad.

Google afirma que los dos nuevos motores de inferencia ya funcionan en entornos de producción a gran escala de algunos clientes con acceso anticipado. También admiten conversaciones de varias rondas, contextos largos, cargas de trabajo de agentes, modelos multimodales e inferencia distribuida a gran escala. Para Google, esto significa que las TPU empiezan a contar con un ecosistema de software comercial externo más completo, en lugar de ser simplemente hardware optimizado para los modelos internos de Google.

¡Meta despliega TPU de Google! La alianza abre TorchTPU y pone en entredicho la ventaja competitiva de CUDA de Nvidia. Publicado originalmente en ABMedia, Chain News.