Baidu abre o código do ERNIE 5.5 Flash: 280 bilhões de parâmetros, 14 bilhões ativados por token
A Baidu lançou o ERNIE 5.5 Flash e disponibilizou seus pesos: são 280 bilhões de parâmetros no total, com 14 bilhões ativados por token; o ajuste fino e a inferência oferecem suporte a um contexto de 1 milhão de tokens.
A versão disponibilizada é a Base, que ainda não passou pelo treinamento intermediário nem pelo pós-treinamento. A versão pós-treinada será lançada em seguida. Os desenvolvedores também devem ficar atentos aos termos da licença, que incluem exclusões geográficas, um limite de 50 milhões de dólares em receita relacionada nos últimos 12 meses consecutivos e a exigência de exibir “Powered by ERNIE”.
A questão é até que ponto a disponibilização dos pesos de modelos esparsos com tantos parâmetros pode reduzir os custos de implantação local e desenvolvimento de soluções derivadas.
Os detalhes e as condições da licença estão na imagem.
#btc #crypto #ERNIE
A Baidu lançou o ERNIE 5.5 Flash e disponibilizou seus pesos: são 280 bilhões de parâmetros no total, com 14 bilhões ativados por token; o ajuste fino e a inferência oferecem suporte a um contexto de 1 milhão de tokens.
A versão disponibilizada é a Base, que ainda não passou pelo treinamento intermediário nem pelo pós-treinamento. A versão pós-treinada será lançada em seguida. Os desenvolvedores também devem ficar atentos aos termos da licença, que incluem exclusões geográficas, um limite de 50 milhões de dólares em receita relacionada nos últimos 12 meses consecutivos e a exigência de exibir “Powered by ERNIE”.
A questão é até que ponto a disponibilização dos pesos de modelos esparsos com tantos parâmetros pode reduzir os custos de implantação local e desenvolvimento de soluções derivadas.
Os detalhes e as condições da licença estão na imagem.
#btc #crypto #ERNIE
