Epoch AI acaba de lanzar un índice de inferencia en el que la GB300 NVL72 supera ampliamente a la H100.
Según Crypto Briefing, este índice mide el rendimiento en tareas de inferencia, no de entrenamiento. El informe destaca la memoria y la comunicación, en lugar de la potencia de cálculo bruta: esa es la dimensión que el índice pretende diferenciar. El material no proporciona puntuaciones concretas, modelos de prueba ni la proporción de la diferencia entre ambas.
· En las tareas de inferencia, la integración del sistema podría explicar mejor la diferencia que la potencia de cálculo de una sola tarjeta. Este es el marco de análisis que plantea el informe, no un detalle de las pruebas realizadas.
· El índice utiliza una metodología propia de Epoch AI; para comparar horizontalmente otros chips, debe tomarse como referencia la metodología que publique.
Si solo te fijas en el coste de inferencia, ¿compararías primero el ancho de banda de la memoria o la comunicación entre tarjetas?
Según Crypto Briefing, este índice mide el rendimiento en tareas de inferencia, no de entrenamiento. El informe destaca la memoria y la comunicación, en lugar de la potencia de cálculo bruta: esa es la dimensión que el índice pretende diferenciar. El material no proporciona puntuaciones concretas, modelos de prueba ni la proporción de la diferencia entre ambas.
· En las tareas de inferencia, la integración del sistema podría explicar mejor la diferencia que la potencia de cálculo de una sola tarjeta. Este es el marco de análisis que plantea el informe, no un detalle de las pruebas realizadas.
· El índice utiliza una metodología propia de Epoch AI; para comparar horizontalmente otros chips, debe tomarse como referencia la metodología que publique.
Si solo te fijas en el coste de inferencia, ¿compararías primero el ancho de banda de la memoria o la comunicación entre tarjetas?
