В RTX 3090, купленную шесть лет назад, кто-то записал два числа в регистры — и производительность матричных вычислений подскочила с 77,5 до 129,6 TFLOPS.
Это не разгон.
Человека, который это сделал, зовут Zagitta. Проект опубликован на GitHub и называется gpu-unlock. Это не модифицированный драйвер, а модуль ядра Linux: он успевает вклиниться до того, как NVIDIA получает контроль над картой, меняет два аппаратных регистра, отвечающих за выбор скорости, перезапускает GPU — и возвращает карту в исходное состояние.
Два значения: в одно записать восемь восьмёрок, в другое — одну восьмёрку. Вот и всё.
Не нужно перепрошивать VBIOS или устанавливать модифицированную прошивку. После каждого обновления от NVIDIA не придётся взламывать карту заново.
Многие думают, что это разгон или взлом. Но ни то ни другое. Вычислительной мощности на карте никогда не было меньше — ограничивали скорость выполнения нескольких инструкций: матричного умножения FP16 и BF16 с накоплением FP32. По словам разработчика, на потребительских картах эти инструкции работают лишь вполовину от скорости профессиональных.
Один и тот же чип. Половина скорости — заводская настройка.
Вот тут и приходится считать деньги. GA102 — 28,3 миллиарда транзисторов. На старте продаж RTX 3090 стоила 1499 долларов, RTX A6000 — 4650 долларов. Между выходом карт прошло всего одиннадцать дней. Чем отличались характеристики? На 2,4% больше ядер CUDA, вдвое больше видеопамяти и поддержка ECC. Вот и всё. Разница — 3151 доллар.
Старая практика сегментации продуктовой линейки по ценам — $NVDAB — никогда не опиралась на физические ограничения.
Цифры, которыми делится сообщество, говорят ещё нагляднее. На 3090 Ti производительность BF16 выросла с 87,5 до 157,4 — на 80%. На 3070 прирост составил от 70 до 80%.
А вот карты с лимитом мощности в 225 Вт прибавили всего 25%. Пропускная способность видеопамяти не изменилась. Ядер CUDA не прибавилось. Никто не измерил прироста FPS в играх.
При запуске больших моделей обработка длинных промптов ускорилась более чем на 30%, а скорость генерации токенов почти не изменилась: на этом этапе упираешься в видеопамять, а не в вычислительную мощность.
Эта техника не нова. В 2021 году NVIDIA, пытаясь помешать майнингу, выпустила партию специализированных CMP-карт для майнинга и ограничила их хешрейт. После краха рынка кто-то снял блокировку с CMP и стал продавать их как обычные видеокарты, используя тот же метод с V67 и PLM. Те, кто покупал карты в годы майнингового бума, помнят: как только вычислительная мощность поднималась на ступень — $BTC , — на ступень росла и цена подержанной карты. Тогда никто не считал производительность неизменной физической константой.
Сегодня тот же метод применили к другой цели. Теперь ограничивают не хешрейт, а Tensor Core.
Первыми эту возможность оценили те, кто генерирует изображения локально. На одной 3090 Ti в ComfyUI пропускная способность генерации изображений в BF16 выросла на 47–59%. Результаты побитово идентичны — качество не пришлось менять на скорость. Платформы вроде $RNDR, где владельцы сдают простаивающие видеокарты в аренду, напрямую получат снижение затрат со стороны предложения.
Те, кто в 2021 году арендовал облачные GPU по вычислительной мощности, частично платили в счёте и за эту блокировку.
Меня занимает позиция NVIDIA. Официальных комментариев пока нет. Закроют ли эту лазейку патчем — неизвестно. И ещё неясно, где именно заложено это ограничение скорости: в самом кремнии или в прошивке. Разработчик говорит лишь о регистрах, но более весомых доказательств не приводит.
Есть и контрпример, который показывает, что всё не так однозначно: процесс разблокировки OEM-версии 3080 Ti с 20 ГБ памяти прошёл успешно, но BF16 так и не ускорился. Один и тот же ключ одни замки открывает, а другие — нет.
Запомнить стоит не сам прирост в 67%.
Любой дизайн, в котором один и тот же кремниевый чип делят на несколько категорий по назначению и продают по разным ценам, в конце концов кто-нибудь откатит через регистры.
Потому что блокировка записана в конфигурации, а не в кремнии.
Карта осталась той же. А ценник — уже нет.
В ближайшие дни цены на подержанные 3090 могут измениться. Тем, кто собирается покупать новую карту, стоит подождать, пока NVIDIA сама всё объяснит.
#英伟达 #美股 #币安广场
Это не разгон.
Человека, который это сделал, зовут Zagitta. Проект опубликован на GitHub и называется gpu-unlock. Это не модифицированный драйвер, а модуль ядра Linux: он успевает вклиниться до того, как NVIDIA получает контроль над картой, меняет два аппаратных регистра, отвечающих за выбор скорости, перезапускает GPU — и возвращает карту в исходное состояние.
Два значения: в одно записать восемь восьмёрок, в другое — одну восьмёрку. Вот и всё.
Не нужно перепрошивать VBIOS или устанавливать модифицированную прошивку. После каждого обновления от NVIDIA не придётся взламывать карту заново.
Многие думают, что это разгон или взлом. Но ни то ни другое. Вычислительной мощности на карте никогда не было меньше — ограничивали скорость выполнения нескольких инструкций: матричного умножения FP16 и BF16 с накоплением FP32. По словам разработчика, на потребительских картах эти инструкции работают лишь вполовину от скорости профессиональных.
Один и тот же чип. Половина скорости — заводская настройка.
Вот тут и приходится считать деньги. GA102 — 28,3 миллиарда транзисторов. На старте продаж RTX 3090 стоила 1499 долларов, RTX A6000 — 4650 долларов. Между выходом карт прошло всего одиннадцать дней. Чем отличались характеристики? На 2,4% больше ядер CUDA, вдвое больше видеопамяти и поддержка ECC. Вот и всё. Разница — 3151 доллар.
Старая практика сегментации продуктовой линейки по ценам — $NVDAB — никогда не опиралась на физические ограничения.
Цифры, которыми делится сообщество, говорят ещё нагляднее. На 3090 Ti производительность BF16 выросла с 87,5 до 157,4 — на 80%. На 3070 прирост составил от 70 до 80%.
А вот карты с лимитом мощности в 225 Вт прибавили всего 25%. Пропускная способность видеопамяти не изменилась. Ядер CUDA не прибавилось. Никто не измерил прироста FPS в играх.
При запуске больших моделей обработка длинных промптов ускорилась более чем на 30%, а скорость генерации токенов почти не изменилась: на этом этапе упираешься в видеопамять, а не в вычислительную мощность.
Эта техника не нова. В 2021 году NVIDIA, пытаясь помешать майнингу, выпустила партию специализированных CMP-карт для майнинга и ограничила их хешрейт. После краха рынка кто-то снял блокировку с CMP и стал продавать их как обычные видеокарты, используя тот же метод с V67 и PLM. Те, кто покупал карты в годы майнингового бума, помнят: как только вычислительная мощность поднималась на ступень — $BTC , — на ступень росла и цена подержанной карты. Тогда никто не считал производительность неизменной физической константой.
Сегодня тот же метод применили к другой цели. Теперь ограничивают не хешрейт, а Tensor Core.
Первыми эту возможность оценили те, кто генерирует изображения локально. На одной 3090 Ti в ComfyUI пропускная способность генерации изображений в BF16 выросла на 47–59%. Результаты побитово идентичны — качество не пришлось менять на скорость. Платформы вроде $RNDR, где владельцы сдают простаивающие видеокарты в аренду, напрямую получат снижение затрат со стороны предложения.
Те, кто в 2021 году арендовал облачные GPU по вычислительной мощности, частично платили в счёте и за эту блокировку.
Меня занимает позиция NVIDIA. Официальных комментариев пока нет. Закроют ли эту лазейку патчем — неизвестно. И ещё неясно, где именно заложено это ограничение скорости: в самом кремнии или в прошивке. Разработчик говорит лишь о регистрах, но более весомых доказательств не приводит.
Есть и контрпример, который показывает, что всё не так однозначно: процесс разблокировки OEM-версии 3080 Ti с 20 ГБ памяти прошёл успешно, но BF16 так и не ускорился. Один и тот же ключ одни замки открывает, а другие — нет.
Запомнить стоит не сам прирост в 67%.
Любой дизайн, в котором один и тот же кремниевый чип делят на несколько категорий по назначению и продают по разным ценам, в конце концов кто-нибудь откатит через регистры.
Потому что блокировка записана в конфигурации, а не в кремнии.
Карта осталась той же. А ценник — уже нет.
В ближайшие дни цены на подержанные 3090 могут измениться. Тем, кто собирается покупать новую карту, стоит подождать, пока NVIDIA сама всё объяснит.
#英伟达 #美股 #币安广场
