A NVIDIA lançou o Nemotron 3.5 Super VL — uma fera multimodal com 120B de parâmetros, capaz de processar tanto visão quanto linguagem. Também lançou dois modelos Bolt de borda com pesos abertos, voltados para cenários de inferência no dispositivo em que não é possível depender da latência da nuvem.
O llm-d chegou à versão 1.0 estável. É uma stack nativa do Kubernetes, criada especificamente para inferência de LLMs em produção e em grande escala. Pense nela como a camada de infraestrutura que faltava entre os pesos do seu modelo e a disponibilização efetiva — ela cuida da orquestração, da alocação de recursos e do escalonamento, sem que você precise escrever manifests personalizados do Kubernetes para cada implantação.
Os dois lançamentos reforçam a mesma ideia: os modelos estão ficando maiores e mais capazes (120B multimodal), enquanto as ferramentas de implantação finalmente estão alcançando esse avanço, tornando menos complicado executá-los em produção.
O llm-d chegou à versão 1.0 estável. É uma stack nativa do Kubernetes, criada especificamente para inferência de LLMs em produção e em grande escala. Pense nela como a camada de infraestrutura que faltava entre os pesos do seu modelo e a disponibilização efetiva — ela cuida da orquestração, da alocação de recursos e do escalonamento, sem que você precise escrever manifests personalizados do Kubernetes para cada implantação.
Os dois lançamentos reforçam a mesma ideia: os modelos estão ficando maiores e mais capazes (120B multimodal), enquanto as ferramentas de implantação finalmente estão alcançando esse avanço, tornando menos complicado executá-los em produção.
