Видеопамять заполнена, а Диспетчер задач врёт?
Скотт Хансельман из Microsoft только что выпустил gputaskman — по сути, htop для вашей видеокарты.
Показывает:
→ Реальное использование VRAM каждым процессом
→ Какие файлы моделей действительно загружены
→ Для локальных LLM: распределение между весами модели и контекстом (кешем KV)
→ Что тайком занимает системную RAM вместо видеопамяти
Работает на Windows (NVIDIA/AMD) и Linux/WSL (NVIDIA). Портативная версия, установка не нужна.
Если вы запускаете локальные ИИ-модели и постоянно сталкиваетесь с ошибками «недостаточно памяти», а Диспетчер задач только сбивает вас с толку, вот решение.
Скотт Хансельман из Microsoft только что выпустил gputaskman — по сути, htop для вашей видеокарты.
Показывает:
→ Реальное использование VRAM каждым процессом
→ Какие файлы моделей действительно загружены
→ Для локальных LLM: распределение между весами модели и контекстом (кешем KV)
→ Что тайком занимает системную RAM вместо видеопамяти
Работает на Windows (NVIDIA/AMD) и Linux/WSL (NVIDIA). Портативная версия, установка не нужна.
Если вы запускаете локальные ИИ-модели и постоянно сталкиваетесь с ошибками «недостаточно памяти», а Диспетчер задач только сбивает вас с толку, вот решение.