Baidu publica como código abierto ERNIE 5.5 Flash: 280.000 millones de parámetros, 14.000 millones activados por token
Baidu lanza ERNIE 5.5 Flash y publica sus pesos: 280.000 millones de parámetros en total y 14.000 millones activados por token; el ajuste fino y la inferencia admiten contextos de hasta 1 millón de tokens.
La versión publicada es la Base, que aún no ha pasado por el entrenamiento intermedio ni el posentrenamiento. La versión con posentrenamiento se publicará más adelante. Los desarrolladores también deben tener en cuenta las condiciones de la licencia: exclusiones geográficas, un umbral de 50 millones de dólares en ingresos relacionados durante cualquier período consecutivo de 12 meses y el requisito de mostrar «Powered by ERNIE».
La cuestión es dónde se situará el límite de costes para la implementación local y el desarrollo derivado cuando se publiquen los pesos de modelos dispersos de gran tamaño como este.
Consulta la imagen para ver los detalles y las condiciones de la licencia.
#btc #crypto #ERNIE