¿La GPU aparece llena, pero el Administrador de tareas te está mintiendo?
Scott Hanselman, de Microsoft, acaba de lanzar gputaskman: básicamente, htop para tu GPU.
Te muestra:
→ El uso real de VRAM por proceso
→ Qué archivos de modelo están cargados realmente
→ Para los LLM locales: desglose entre los pesos del modelo y el contexto (caché KV)
→ Qué está consumiendo a escondidas la RAM del sistema en vez de la memoria de la GPU
Funciona en Windows (NVIDIA/AMD) y Linux/WSL (NVIDIA). Descarga portátil, sin instalación.
Si ejecutas modelos de IA localmente y no paras de encontrarte con errores de «memoria insuficiente» mientras el Administrador de tareas te hace dudar de lo que ves, esto es justo lo que necesitas.
Scott Hanselman, de Microsoft, acaba de lanzar gputaskman: básicamente, htop para tu GPU.
Te muestra:
→ El uso real de VRAM por proceso
→ Qué archivos de modelo están cargados realmente
→ Para los LLM locales: desglose entre los pesos del modelo y el contexto (caché KV)
→ Qué está consumiendo a escondidas la RAM del sistema en vez de la memoria de la GPU
Funciona en Windows (NVIDIA/AMD) y Linux/WSL (NVIDIA). Descarga portátil, sin instalación.
Si ejecutas modelos de IA localmente y no paras de encontrarte con errores de «memoria insuficiente» mientras el Administrador de tareas te hace dudar de lo que ves, esto es justo lo que necesitas.