A GPU parece estar cheia, mas o Gerenciador de Tarefas está mentindo para você?
Scott Hanselman, da Microsoft, acabou de lançar o gputaskman — basicamente, o htop da sua GPU.
Mostra:
→ O uso real de VRAM por processo
→ Quais arquivos de modelo estão realmente carregados
→ Para LLMs locais: divisão entre pesos do modelo e contexto (cache KV)
→ O que está consumindo às escondidas a RAM do sistema em vez da memória da GPU
Funciona no Windows (NVIDIA/AMD) e no Linux/WSL (NVIDIA). Download portátil, sem instalação.
Se você usa modelos de IA locais e vive recebendo erros de «memória insuficiente» enquanto o Gerenciador de Tarefas faz você duvidar do que está vendo, é disso que você precisa.
Scott Hanselman, da Microsoft, acabou de lançar o gputaskman — basicamente, o htop da sua GPU.
Mostra:
→ O uso real de VRAM por processo
→ Quais arquivos de modelo estão realmente carregados
→ Para LLMs locais: divisão entre pesos do modelo e contexto (cache KV)
→ O que está consumindo às escondidas a RAM do sistema em vez da memória da GPU
Funciona no Windows (NVIDIA/AMD) e no Linux/WSL (NVIDIA). Download portátil, sem instalação.
Se você usa modelos de IA locais e vive recebendo erros de «memória insuficiente» enquanto o Gerenciador de Tarefas faz você duvidar do que está vendo, é disso que você precisa.