#OpenAIReportedlyCompletesBelModelPretraining
La jugada maestra de OpenAI: su chip de inferencia de desarrollo propio, con nombre en clave "Jalapeño", supera a NVIDIA.
OpenAI ha completado un nuevo preentrenamiento, con nombre en clave "Bel", cuyo tamaño de parámetros supera los 10 billones. Podría ser el sucesor de Doug y convertirse en el modelo fundamental para Astra/GPT-6...
Este chip está especialmente diseñado para la inferencia de modelos de lenguaje de gran tamaño. Gracias a una arquitectura totalmente nueva, puede aumentar el rendimiento y reducir la latencia simultáneamente, logrando ambos objetivos con una alta eficiencia energética. Ha superado la eficiencia de los sistemas NVIDIA GB200 y GB300 en múltiples pruebas de modelos.
Cabe destacar que Jalapeño, al ser el primer chip de inferencia desarrollado por OpenAI, no es un chip para entrenar la próxima generación de modelos GPT, sino que está optimizado para la fase operativa posterior al lanzamiento del modelo.
La fase de entrenamiento permite que el modelo adquiera capacidades, mientras que la fase de inferencia le permite responder rápidamente a las solicitudes del usuario. Jalapeño está diseñado principalmente para resolver este segundo problema.
$NVDAB
$NVDA.US
La jugada maestra de OpenAI: su chip de inferencia de desarrollo propio, con nombre en clave "Jalapeño", supera a NVIDIA.
OpenAI ha completado un nuevo preentrenamiento, con nombre en clave "Bel", cuyo tamaño de parámetros supera los 10 billones. Podría ser el sucesor de Doug y convertirse en el modelo fundamental para Astra/GPT-6...
Este chip está especialmente diseñado para la inferencia de modelos de lenguaje de gran tamaño. Gracias a una arquitectura totalmente nueva, puede aumentar el rendimiento y reducir la latencia simultáneamente, logrando ambos objetivos con una alta eficiencia energética. Ha superado la eficiencia de los sistemas NVIDIA GB200 y GB300 en múltiples pruebas de modelos.
Cabe destacar que Jalapeño, al ser el primer chip de inferencia desarrollado por OpenAI, no es un chip para entrenar la próxima generación de modelos GPT, sino que está optimizado para la fase operativa posterior al lanzamiento del modelo.
La fase de entrenamiento permite que el modelo adquiera capacidades, mientras que la fase de inferencia le permite responder rápidamente a las solicitudes del usuario. Jalapeño está diseñado principalmente para resolver este segundo problema.
$NVDAB
$NVDA.US
