Resumen
Las acciones de SMCI se desploman un 10,03 %, hasta los 26,63 $, pese al anuncio de una importante alianza en IA.
Supermicro se une a IBM y NVIDIA para lanzar una nueva plataforma empresarial de almacenamiento para IA.
Las pruebas de caché KV ofrecen respuestas del primer token hasta 56 veces más rápidas.
La nueva tecnología de almacenamiento compartido busca mejorar la eficiencia de las GPU y el rendimiento de la IA.
Supermicro afirma que sus servicios de implementación pueden reducir la instalación de semanas a días.
Las acciones de Super Micro Computer (SMCI) se desplomaron un 10,03 %, hasta los 26,63 $, con una pérdida de 2,97 $, en medio de una fuerte presión vendedora. Mientras tanto, Supermicro anunció una nueva solución de almacenamiento para IA mediante su colaboración con IBM y NVIDIA. La tecnología busca acelerar la inferencia de IA, mejorar la eficiencia de las GPU y dar soporte a las crecientes cargas de trabajo empresariales.
Super Micro Computer, Inc., SMCI
Supermicro se asocia con IBM y NVIDIA para ofrecer una solución de almacenamiento para IA
Supermicro presentó una nueva plataforma de almacenamiento de caché KV que combina tecnologías de tres importantes proveedores de infraestructura. El sistema integra servidores all-flash Petascale de Supermicro, el software IBM Storage Scale y NVIDIA Dynamo. La arquitectura utiliza procesadores AMD EPYC 9005 y redes Ethernet NVIDIA Spectrum-X.
La colaboración responde a la creciente demanda de inferencias de IA más rápidas en aplicaciones empresariales e infraestructura en la nube. Los sistemas modernos de IA procesan conjuntos de datos más grandes y conversaciones más largas, lo que aumenta la presión sobre los recursos de memoria existentes. Las empresas necesitan sistemas de almacenamiento capaces de gestionar cargas de trabajo complejas sin reducir la eficiencia del procesamiento.
Supermicro diseñó la plataforma para ampliar la capacidad de la caché KV más allá de la memoria local de la GPU. Este enfoque permite que los sistemas de IA reutilicen información procesada previamente en lugar de repetir cálculos. Además, el almacenamiento compartido ayuda a las organizaciones a ampliar la capacidad de inferencia y mantener un rendimiento uniforme de las aplicaciones.
La nueva tecnología de caché KV permite inferencias de IA más rápidas
Supermicro y NVIDIA probaron la tecnología con un modelo de lenguaje grande de 120.000 millones de parámetros. En las pruebas se registró un rendimiento de hasta 56 veces más rápido en el tiempo hasta el primer token con indicaciones de 130.000 tokens. Los resultados demostraron mejoras sustanciales cuando el sistema reutilizó información almacenada en caché.
Durante las pruebas, la longitud de las entradas aumentó de 30.000 a 130.000 tokens. Sin embargo, el tiempo de preparación de la respuesta solo aumentó 0,377 segundos con el uso de caché, frente a 29,55 segundos sin caché. Estos hallazgos pusieron de relieve los posibles beneficios de la tecnología para las aplicaciones que procesan grandes cantidades de información.
La plataforma también permite un mayor aprovechamiento de las GPU al reducir los cálculos innecesarios y los retrasos en el procesamiento. Además, su arquitectura compartida permite que varios clústeres de GPU accedan eficazmente al contexto almacenado. Las empresas validaron el sistema con cargas de trabajo intensas y en condiciones de tráfico de red competitivo.
Supermicro apunta al crecimiento de la infraestructura de IA empresarial
El anuncio amplía la cartera de infraestructura de Supermicro mientras las empresas aumentan el gasto en implementación de IA y servicios de inferencia. Las aplicaciones empresariales utilizan cada vez más asistentes de programación, flujos de trabajo automatizados y sistemas que procesan documentos extensos. Estas aplicaciones requieren una capacidad de almacenamiento fiable junto con potentes recursos informáticos.
Supermicro también ofrece integración de racks en fábrica y servicios de implementación para la nueva plataforma. Según la empresa, estos servicios pueden reducir los plazos de implementación de semanas a días. Por su parte, IBM aporta capacidades de gestión del almacenamiento, mientras que NVIDIA proporciona software de inferencia y tecnología de redes.
La alianza refuerza la posición de Supermicro en la infraestructura de IA empresarial pese al pronunciado descenso de sus acciones. Su solución más reciente aborda la eficiencia informática, la escalabilidad del almacenamiento y la fiabilidad del sistema en aplicaciones exigentes. Sin embargo, el anuncio no incluye previsiones financieras ni contribuciones confirmadas a los ingresos de la nueva plataforma.
La publicación Super Micro Computer (SMCI): las acciones caen un 10 % mientras la empresa presenta una nueva solución de IA con IBM y NVIDIA apareció primero en Blockonomi.