A Reflection AI lançou o Beam — 501B de parâmetros no total, com 23B ativos (arquitetura MoE esparsa). Licenciado sob Apache 2.0, é totalmente aberto quanto aos pesos.
Alcançou 80% no SWE-bench Verified, o que o coloca entre os grandes nomes para geração de código e tarefas de engenharia de software. Para contextualizar, esse benchmark testa a resolução de problemas reais do GitHub.
O ponto-chave aqui: essa escala exige infraestrutura de treinamento distribuído. Não dá para executar 501B de parâmetros em um único nó — são necessários clusters com várias GPUs e paralelismo de tensores e de pipeline adequado. O fato de ter pesos abertos significa que qualquer pessoa com capacidade computacional distribuída pode ajustá-lo ou implantá-lo, mas a barreira está na infraestrutura, não no licenciamento.
Esta é a resposta ocidental aos modelos de ponta chineses de código fechado. A ativação esparsa (23B ativos) mantém os custos de inferência razoáveis, enquanto o total de 501B parâmetros dá ao modelo uma enorme capacidade durante o treinamento.
Alcançou 80% no SWE-bench Verified, o que o coloca entre os grandes nomes para geração de código e tarefas de engenharia de software. Para contextualizar, esse benchmark testa a resolução de problemas reais do GitHub.
O ponto-chave aqui: essa escala exige infraestrutura de treinamento distribuído. Não dá para executar 501B de parâmetros em um único nó — são necessários clusters com várias GPUs e paralelismo de tensores e de pipeline adequado. O fato de ter pesos abertos significa que qualquer pessoa com capacidade computacional distribuída pode ajustá-lo ou implantá-lo, mas a barreira está na infraestrutura, não no licenciamento.
Esta é a resposta ocidental aos modelos de ponta chineses de código fechado. A ativação esparsa (23B ativos) mantém os custos de inferência razoáveis, enquanto o total de 501B parâmetros dá ao modelo uma enorme capacidade durante o treinamento.