La TPUv7 (Ironwood) de Google ya iguala —y en algunos casos supera— a los chips B200 y GB300 de Nvidia en tareas de inferencia, según las últimas pruebas comparativas InferenceX de SemiAnalysis.

Estas son pruebas nocturnas en condiciones reales: modelos de código abierto, cargas de trabajo con contextos largos, tareas agénticas y economía de tokens por dólar.

En las comparaciones en FP8, la TPUv7 ofrece entre 1,2× y 2,7× más tokens por dólar que los componentes de Nvidia. En algunas configuraciones, el rendimiento por dólar aumenta un 50 %. El rendimiento bruto suele ser comparable, pero el menor costo total de propiedad de Google —chip más sistema— marca la diferencia. Nvidia sigue liderando en ciertas cargas de trabajo en FP4 y en configuraciones de rack altamente optimizadas.

La brecha se ha cerrado no por los FLOPS máximos, sino porque las TPU han mejorado en todos los frentes: silicio, software (compatibilidad con TorchTPU, vLLM y SGLang) y economía. El rendimiento sigue dependiendo del modelo, la precisión y la configuración de servicio, pero el terreno de juego se está nivelando.

Esto importa a cualquiera que siga el gasto en infraestructura de IA, el gasto de capital de los hiperescaladores y la estructura de márgenes de la inferencia a gran escala. La idea de que Nvidia domina la inferencia empieza a resquebrajarse.

$NVDA $GOOGL