1/2
🔥 Versteckte Rechenleistung von Huang wurde mit einem Schlag freigeschaltet!
Ein Experte hat für die RTX 3090 einen „Soft Unlock“ entwickelt. Das Power-Limit bleibt bei 360 W, aber in PyTorch steigt die Leistung im Test von 75 TFLOPS auf 135 TFLOPS – rund 80 % mehr 🤯
⚠️ Das ist kein Overclocking und die Leistungsaufnahme wurde nicht erhöht:
👉 Er hat Register auf der Grafikkarte verändert, die die Rechengeschwindigkeit steuern. Diese Register sind normalerweise geschützt und lassen sich nicht einfach ändern 👉 Er nutzte eine Sicherheitslücke in der GPU-Boot-Firmware, um sich Schreibzugriff zu verschaffen, bevor der NVIDIA-Treiber geladen wird. Damit stellte er die Berechnungen auf volle Geschwindigkeit und übergab anschließend wieder an den Originaltreiber 👉 Freigeschaltet wird vor allem das Tempolimit bei KI-Berechnungen wie FP16-/BF16-Eingaben mit FP32-Akkumulation
2/2 Noch beeindruckender: Auch für die 4090 gibt es inzwischen eine entsprechende Variante. Der Durchsatz bei vergleichbaren Berechnungen steigt von etwa 165 TFLOPS auf 331 TFLOPS – fast eine Verdopplung 🚀
Wer eine 3090 oder 4090 fürs Modelltraining nutzt, bekommt hier Rechenleistung praktisch geschenkt. Gebrauchte 3090er dürften wohl bald teurer werden 📈
Open-Source-Projekt 👇 https://github.com/Zagitta/gpu-unlock
#RTX3090 #RTX4090 #NVIDIA #AI #显卡成金矿
Ein Experte hat für die RTX 3090 einen „Soft Unlock“ entwickelt. Das Power-Limit bleibt bei 360 W, aber in PyTorch steigt die Leistung im Test von 75 TFLOPS auf 135 TFLOPS – rund 80 % mehr 🤯
⚠️ Das ist kein Overclocking und die Leistungsaufnahme wurde nicht erhöht:
👉 Er hat Register auf der Grafikkarte verändert, die die Rechengeschwindigkeit steuern. Diese Register sind normalerweise geschützt und lassen sich nicht einfach ändern 👉 Er nutzte eine Sicherheitslücke in der GPU-Boot-Firmware, um sich Schreibzugriff zu verschaffen, bevor der NVIDIA-Treiber geladen wird. Damit stellte er die Berechnungen auf volle Geschwindigkeit und übergab anschließend wieder an den Originaltreiber 👉 Freigeschaltet wird vor allem das Tempolimit bei KI-Berechnungen wie FP16-/BF16-Eingaben mit FP32-Akkumulation
2/2 Noch beeindruckender: Auch für die 4090 gibt es inzwischen eine entsprechende Variante. Der Durchsatz bei vergleichbaren Berechnungen steigt von etwa 165 TFLOPS auf 331 TFLOPS – fast eine Verdopplung 🚀
Wer eine 3090 oder 4090 fürs Modelltraining nutzt, bekommt hier Rechenleistung praktisch geschenkt. Gebrauchte 3090er dürften wohl bald teurer werden 📈
Open-Source-Projekt 👇 https://github.com/Zagitta/gpu-unlock
#RTX3090 #RTX4090 #NVIDIA #AI #显卡成金矿