El dominio de Nvidia en la computación de inteligencia artificial nunca ha dependido únicamente de las GPU.
Desde hace más de una década, la empresa ha creado un ecosistema de software en torno a CUDA que facilita a los desarrolladores el uso, la optimización y la implementación de su hardware a gran escala. Esa ventaja de software se ha convertido en una de las barreras más sólidas que protegen a Nvidia de los competidores que intentan entrar en el mercado de los aceleradores de IA.
Ahora, Google y Amazon están atacando esa barrera directamente.
Ambas empresas han presentado nuevas herramientas de código abierto diseñadas para que los desarrolladores puedan ejecutar cargas de trabajo de PyTorch de forma más natural en sus propios procesadores de IA. Google ha abierto TorchTPU para sus unidades de procesamiento tensorial, mientras que Amazon Web Services ha lanzado TorchNeuron para sus chips Trainium.
El objetivo es sencillo: hacer que abandonar el hardware de Nvidia sea mucho menos engorroso.
Google abre TorchTPU a los desarrolladores de PyTorch
El 20 de octubre, Google anunció que TorchTPU ya es de código abierto, lo que incorpora compatibilidad nativa con PyTorch a su infraestructura de TPU.
PyTorch es uno de los marcos más utilizados para desarrollar e implementar modelos de inteligencia artificial, por lo que la compatibilidad es cada vez más importante para cualquier empresa que aspire a competir con Nvidia.
Google afirma que las cargas de trabajo existentes de PyTorch pueden ejecutarse en TPU con cambios mínimos en el código, manteniendo las API y las herramientas de desarrollo conocidas.
TorchTPU también se integra con software de IA de uso generalizado, como Hugging Face, vLLM, SGLang, Ray y TorchTitan.
Para los desarrolladores, la importancia de este cambio no es meramente técnica.
Trasladar una carga de trabajo de aprendizaje automático existente de un ecosistema de hardware a otro ha requerido tradicionalmente trabajo de ingeniería, pruebas de compatibilidad y optimización. Esos costos de migración contribuyen a la dependencia del hardware.
Google intenta reducir esa fricción.
Si los desarrolladores pueden trasladar modelos entre GPU y TPU sin tener que reconstruir gran parte de su conjunto de software, la elección del hardware dependerá más del precio, la disponibilidad y el rendimiento, y no solo de la compatibilidad del software.
Amazon sigue una estrategia similar con TorchNeuron
Amazon Web Services está siguiendo prácticamente la misma estrategia con TorchNeuron.
AWS lanzó la beta pública de TorchNeuron como un backend nativo de PyTorch de código abierto para su familia de aceleradores de IA Trainium.
Según AWS, los desarrolladores pueden trasladar código de PyTorch a Trainium mediante un cambio de configuración, en vez de reescribir sus modelos para adaptarlos a un marco distinto.
TorchNeuron es compatible con las API estándar de PyTorch, la ejecución eager y torch.compile, y también permite a los desarrolladores optimizar las cargas de trabajo específicamente para el hardware Trainium.
Actualmente, el software es compatible con instancias de Amazon EC2 equipadas con chips Trainium2 y Trainium3.
Esto es importante porque AWS ha invertido mucho en procesadores personalizados como alternativa a comprar toda su capacidad informática para IA a proveedores externos de chips.
Trainium ofrece a Amazon más control sobre la economía de su infraestructura en la nube. Pero convencer a los clientes de que usen esos procesadores requiere algo más que hardware competitivo.
Los desarrolladores necesitan software que se adapte a sus flujos de trabajo actuales.
TorchNeuron está diseñado para cerrar esa brecha.
Por qué PyTorch es tan importante en la batalla por los chips de IA
La competencia actual en el hardware de IA se está convirtiendo cada vez más en una batalla de software.
Nvidia dedicó años a integrar CUDA profundamente en el desarrollo de aprendizaje automático. Las bibliotecas, las herramientas de optimización y la experiencia de los desarrolladores crecieron en torno a ese ecosistema.
Eso genera lo que los economistas suelen describir como costos de cambio.
En teoría, un acelerador competidor podría ofrecer un rendimiento atractivo o costos más bajos, pero las empresas podrían seguir eligiendo Nvidia si trasladar las cargas de trabajo requiere semanas de trabajo de ingeniería.
La compatibilidad nativa con PyTorch cambia esa ecuación.
Tanto Google como Amazon intentan que su hardware parezca menos una plataforma independiente y más otro dispositivo compatible dentro de un entorno PyTorch conocido.
Para las grandes empresas de IA que gestionan cargas de trabajo enormes, incluso una mejora relativamente pequeña en la flexibilidad del hardware puede tener importantes consecuencias financieras.
En lugar de asignar todas las cargas de trabajo a una sola arquitectura de aceleradores, las empresas podrían dirigir distintos modelos a la infraestructura que ofrezca las mejores condiciones económicas en cada momento.
La ventaja competitiva de Nvidia con CUDA se enfrenta a un tipo diferente de competencia
Nvidia aún conserva ventajas significativas.
Sus GPU siguen ampliamente desplegadas para el entrenamiento y la inferencia de IA, y su ecosistema CUDA incluye años de software optimizado, documentación y conocimientos de desarrolladores.
Por eso, es poco probable que Google y Amazon eliminen de la noche a la mañana la ventaja de software de Nvidia.
Pero la naturaleza de la competencia está cambiando.
Históricamente, los competidores solían intentar superar a Nvidia principalmente mediante las especificaciones del hardware. Hoy, los hiperescaladores entienden cada vez más que no basta con tener chips competitivos.
También deben facilitar la migración.
Reuters informó anteriormente que TorchNeuron de Amazon estaba pensado para reducir la cantidad de pasos que los desarrolladores deben seguir antes de probar Trainium, mientras que Google ha estado trabajando para hacer que sus TPU sean más accesibles a los desarrolladores que ya usan PyTorch.
Eso convierte la experiencia de desarrollo en un arma estratégica.
La inferencia de IA podría dar más importancia a la elección del hardware
El momento es especialmente importante, ya que el mercado de la IA se expande más allá del entrenamiento de enormes modelos fundacionales.
La inferencia —es decir, ejecutar sistemas de IA y responder a las solicitudes de los usuarios— se está convirtiendo en una parte cada vez más importante de la demanda informática.
Las cargas de trabajo de inferencia pueden variar enormemente en tamaño, requisitos de latencia y sensibilidad a los costos.
Eso crea oportunidades para procesadores alternativos.
Una empresa que entrena un modelo de vanguardia puede priorizar el máximo rendimiento y un ecosistema de software maduro. A una empresa que atiende millones de solicitudes de inferencia más pequeñas quizá le importen más el costo por token, el consumo de energía o la disponibilidad de infraestructura.
Cuanto más amplia sea la variedad de cargas de trabajo de IA, más difícil podría resultar que una sola arquitectura de chip domine todos los casos de uso.
Esa es una de las razones por las que las grandes empresas tecnológicas están desarrollando sus propios aceleradores.
Google tiene sus TPU.
Amazon tiene Trainium.
Meta ha desarrollado sus procesadores MTIA.
Otras empresas de IA también están explorando chips personalizados, mientras el gasto en infraestructura sigue aumentando.
Nvidia sigue siendo líder del mercado, pero la industria avanza hacia un entorno informático más heterogéneo.
El código abierto podría acelerar el cambio
Otro aspecto destacable de TorchTPU y TorchNeuron es que se publican como software de código abierto.
Eso ofrece a los desarrolladores más visibilidad sobre las herramientas y permite contribuciones externas.
También podría ayudar a Google y Amazon a asegurar a las empresas que usar su hardware no implica quedar atrapadas en otro ecosistema de software cerrado.
AWS afirma que los modelos entrenados con Trainium pueden guardarse como puntos de control estándar y trasladarse a otro hardware compatible.
Google también presenta TorchTPU como una opción centrada en la elección del hardware y la compatibilidad con las herramientas de IA existentes.
Este posicionamiento es importante.
Es poco probable que los desarrolladores adopten la diversidad de hardware si pasar de Nvidia simplemente sustituye una forma de dependencia por otra.
Al destacar la compatibilidad con PyTorch y las herramientas abiertas, los hiperescaladores presentan sus aceleradores personalizados como infraestructura intercambiable.
Qué significa esto para los desarrolladores de IA
Para los equipos de IA, una mayor competencia en hardware podría traducirse, en última instancia, en más opciones.
Los desarrolladores podrían comparar las GPU de Nvidia, las TPU de Google y Trainium de AWS según las características de cada carga de trabajo, en lugar de verse obligados a permanecer en una sola plataforma debido a las dependencias de software.
Esto podría afectar a:
los costos de entrenamiento de IA
los precios de la inferencia
la disponibilidad de infraestructura en la nube
la eficiencia energética
la flexibilidad de implementación
el poder de negociación con los proveedores de la nube
También podría fomentar precios más agresivos, a medida que los hiperescaladores intentan atraer cargas de trabajo a su hardware propietario.
AWS ya sostiene que Trainium puede ofrecer una economía de costos atractiva para ciertas cargas de trabajo de IA, mientras que Google continúa ampliando la disponibilidad de sus TPU a través de Google Cloud.
Cuanto más fácil resulte usar esos chips, más convincentes serán esas afirmaciones para los desarrolladores que evalúan alternativas.
¿Pueden Google y Amazon realmente amenazar a Nvidia?
Es poco probable que Nvidia pierda su posición simplemente porque sus competidores mejoren la compatibilidad con PyTorch.
Su hoja de ruta de hardware, sus bibliotecas de software y su comunidad de desarrolladores siguen siendo ventajas competitivas considerables.
Pero quizá Google y Amazon no necesiten reemplazar a Nvidia para cambiar el mercado.
Incluso captar una mayor proporción de las cargas de trabajo en sus propias plataformas en la nube reduciría su dependencia del hardware de Nvidia y generaría una competencia significativa en la infraestructura de IA.
Más importante aún, debilita la idea de que los desarrolladores de IA deben trabajar dentro de un único ecosistema de hardware.
Por tanto, la siguiente etapa de la batalla por los chips de IA podría depender tanto de la portabilidad del software como del rendimiento bruto de los procesadores.
TorchTPU de Google y TorchNeuron de Amazon son ejemplos iniciales de ese cambio.
El desafío competitivo para Nvidia es cada vez más claro: sus rivales ya no intentan únicamente fabricar mejores chips.
Intentan hacer más fácil abandonar Nvidia.
Aviso legal: Este artículo se proporciona únicamente con fines informativos. No se ofrece ni pretende utilizarse como asesoramiento legal, fiscal, de inversión, financiero o de otro tipo.