Nvidia y Microsoft están impulsando a las empresas a ejecutar modelos de IA abiertos más económicos en sus propios términos, desde los centros de datos de Azure hasta la maquinaria de fábrica y los PC con Windows. Nvidia afirma que EY, gigante de la contabilidad, redujo sus costos 15 veces al hacer el cambio.

Conclusiones clave

  • Nvidia afirma que EY ajustó sus modelos abiertos Nemotron para aumentar la precisión un 55 % y reducir los costos 15 veces en comparación con los modelos propietarios de frontera

  • Las máquinas virtuales de Azure impulsadas por sistemas Nvidia Vera Rubin NVL72 funcionan en los centros de datos de Azure

  • Microsoft Foundry está ampliando la disponibilidad para los clientes de los modelos abiertos de Nvidia y las capacidades de personalización

  • Azure Local será compatible con las GPU RTX PRO 6000 Blackwell y ampliará su compatibilidad con Jetson Thor y Jetson Orin

  • Los PC en la nube Windows 365 acelerados por GPU recibirán Direct Stream en vista previa limitada; la vista previa pública está prevista para principios de 2027

Nvidia anunció la ampliación en Microsoft Ignite, donde las compañías presentaron nuevos puntos de acceso que abarcan máquinas virtuales de Azure, infraestructura local, sistemas industriales y PC Windows.

Microsoft también utiliza tecnologías de Nvidia en su propio trabajo de IA, incluido el software de inferencia Dynamo para el entrenamiento posterior y las GPU RTX PRO 6000 Blackwell para los modelos de búsqueda de Bing.

De Azure a los sistemas locales

Las máquinas virtuales de Azure con tecnología de los sistemas Nvidia Vera Rubin NVL72 ya están funcionando en los centros de datos de Azure. La infraestructura está diseñada para tareas exigentes de razonamiento, aplicaciones basadas en agentes y entrenamiento e inferencia de modelos a gran escala.

Las compañías también colaboran para ampliar la computación confidencial a la infraestructura de IA de metal desnudo y a escala de rack. Nvidia Confidential Computing y la atestación ayudan a los clientes a verificar el entorno de computación antes de liberar modelos, datos o claves confidenciales, una medida de protección pensada para organizaciones que manejan información confidencial o regulada.

Nvidia y Microsoft también trabajan en la eficiencia energética con Nvidia MaxLPS. En MLPerf Training v6.1, Azure escaló hasta 10.240 GPU Nvidia con sistemas GB200 NVL72 en el modelo DeepSeek-V3, lo que Nvidia describió como la mayor escala de esta ronda. En MLPerf Inference v6.1, los sistemas Nvidia GB300 NVL72 de Azure lideraron las pruebas de proveedores de nube en rendimiento interactivo de DeepSeek-R1 por más de un 10%, según Signal65.

Leer también: El mod Nvidia GeForce promete hasta el doble de velocidad de IA en PC domésticos

Cómo Foundry incorpora modelos abiertos

A través de Microsoft Foundry, se amplía la disponibilidad para los clientes de los modelos abiertos de Nvidia y las capacidades de personalización. Programmed Training sin servidor de Microsoft permite a los desarrolladores controlar los flujos de trabajo de entrenamiento posterior mientras Foundry gestiona la infraestructura subyacente, y Foundry Managed Compute añade compatibilidad para implementar pesos de modelos personalizados.

EY utilizó Programmed Training en Microsoft Foundry para adaptar los modelos abiertos Nvidia Nemotron con el fin de clasificar registros de compras corporativas. EY mejoró en un 55% la precisión en su conjunto de datos de evaluación y redujo los costos 15 veces en comparación con los modelos de vanguardia propietarios.

Modelo NemotronUso empresarial declaradoNemotron 3.5 SuperDiseñado para agentes de larga duración que realizan tareas de programación, investigación y flujos de trabajo empresarialesLightningCreado para aplicaciones que requieren respuestas rápidas y uso de herramientasEmbed And RerankAyuda a los agentes a encontrar información pertinenteParseExtrae información estructurada de documentosContent SafetyDetecta contenido dañinoBolt And TranscribePróximamente: razonamiento de alto rendimiento y baja latencia, y reconocimiento de voz

La ampliación de la compatibilidad con Nemotron 3.5 en Foundry Local lleva agentes de razonamiento, programación y uso de herramientas a los entornos de Azure Local. Los modelos de recuperación ayudan a las aplicaciones a encontrar pruebas en textos, imágenes de documentos, gráficos y tablas. Además, los modelos de IA física de Nvidia, incluido Cosmos, también llegarán a Foundry Local.

Por qué es importante

El resultado de EY es lo que hay que observar. Los modelos abiertos se pueden descargar, entrenar con los registros propios de una empresa y ejecutar en su propio hardware, en lugar de pagar por cada solicitud a un modelo cerrado de un único proveedor. Si un modelo abierto ajustado puede superar a un modelo de vanguardia en una tarea específica por una quinceava parte del costo, muchas empresas se preguntarán por qué pagan precios tan altos por tareas cotidianas, como clasificar registros de compras.

Esto coloca a Microsoft en una posición interesante. La compañía vende acceso a los modelos cerrados más grandes a través de Azure y ahora también ayuda a sus clientes a sustituirlos por modelos más económicos de Nvidia para tareas específicas. Nvidia gana en ambos casos, porque las dos opciones funcionan con sus chips: desde los racks Vera Rubin NVL72 en Azure hasta las GPU RTX en los PC de oficina.

Qué observar a continuación

Azure Local también será compatible con las GPU Nvidia RTX PRO 6000 Blackwell de socios de hardware, lo que ofrecerá a las organizaciones más opciones para implementar IA en sus instalaciones. Además, ampliará su compatibilidad con las plataformas de IA en el borde Nvidia Jetson Thor y Jetson Orin para aplicaciones industriales como visión artificial, robótica y operaciones autónomas.

En los PC Windows con tecnología Nvidia RTX Spark, las compañías mostrarán en Ignite experiencias locales con modelos de lenguaje de gran tamaño. Para las organizaciones que usan PC en la nube Windows 365, Direct Stream es compatible con aplicaciones gráficas exigentes, con hasta dos transmisiones 4K a 60 fotogramas por segundo y baja latencia, incluso en redes difíciles. La vista previa limitada está abierta a inscripciones y la vista previa pública está prevista para principios de 2027.

La prueba más importante será la adopción. Habrá que ver si más empresas publican cifras de costo y precisión como las de EY, y si Bolt y Transcribe, los dos modelos Nemotron 3.5 anunciados como próximos lanzamientos, llegan a Foundry a tiempo para trasladar más trabajo de los costosos modelos cerrados.

Para la investigación científica, Nvidia BioNemo Agent Toolkit y Nvidia ALCHEMI Toolkit se incorporan al catálogo Microsoft Discovery. Una integración inicial utiliza el modelo RFD4-Proteina, desarrollado junto con el Institute for Protein Design de la Universidad de Washington, para generar estructuras de proteínas y secuencias de aminoácidos candidatas que se evaluarán y validarán posteriormente en el laboratorio.

Leer a continuación: Cohere oculta datos de pacientes y bancos a terceros en Azure