Eine RTX 3090, vor sechs Jahren gekauft: Jemand schrieb zwei Werte in Register, und die Matrixleistung sprang von 77,5 auf 129,6 TFLOPS.
Das ist kein Übertakten.
Derjenige, der das gemacht hat, heißt Zagitta. Das Projekt liegt auf GitHub und heißt schlicht gpu-unlock. Es ist kein modifizierter Treiber, sondern ein Linux-Kernelmodul. Es schiebt sich hinein, bevor Nvidia die Karte in Beschlag nimmt, ändert zwei Register in der Hardware, die für die Geschwindigkeitswahl zuständig sind, setzt die GPU zurück und gibt die Karte dann unverändert zurück.
Zwei Werte: einer füllt sich mit acht Achten, der andere nur mit einer Acht. So einfach ist das.
Kein Flashen des VBIOS, keine modifizierte Firmware. Auch bei jedem künftigen Nvidia-Update muss man den Eingriff nicht erneut vornehmen.
Viele halten das für Übertakten oder einen Hack. Beides trifft nicht zu. Der Karte hat es nie an Rechenleistung gefehlt. Gedrosselt war die Ausgaberate einiger Instruktionen: FP16 und BF16 sowie Matrixmultiplikationen mit FP32-Akkumulation. Laut dem Entwickler laufen diese Instruktionen auf Consumer-Karten nur mit halber Geschwindigkeit im Vergleich zu Profi-Karten.
Auf demselben Chip ist die halbe Geschwindigkeit ab Werk eingestellt.
Da muss man einmal nachrechnen. GA102: 28,3 Milliarden Transistoren. Die RTX 3090 kam für 1.499 Dollar auf den Markt, die RTX A6000 für 4.650 Dollar – zwischen den Marktstarts der beiden Karten lagen gerade einmal elf Tage. Wo liegen die Unterschiede bei den technischen Daten? 2,4 Prozent mehr CUDA-Kerne, doppelt so viel Speicher und ECC. Das war's. 3.151 Dollar Unterschied.
Die alte Regel, mit der die Produktlinie $NVDAB über Preisschilder segmentiert wird, beruhte noch nie auf physikalischen Grenzen.
Die Zahlen aus der Community sind noch deutlicher. Bei der 3090 Ti stieg BF16 von 87,5 auf 157,4 – um rund 80 Prozent. Bei der 3070 ging es um 70 bis 80 Prozent nach oben.
Ausgerechnet bei Karten mit einer Leistungsgrenze von 225 Watt beträgt der Zuwachs nur zweieinhalb Prozent. Die Speicherbandbreite hat sich überhaupt nicht verändert. Kein einziger CUDA-Kern ist hinzugekommen. Beim Gaming hat niemand eine höhere Bildrate gemessen.
Beim Ausführen großer Modelle ging die Verarbeitung langer Prompts um mehr als 30 Prozent schneller, während sich das Tempo bei der Token-Generierung kaum änderte. Dieser Teil wird durch den Speicher ausgebremst, nicht durch die Rechenleistung.
Diese Technik ist nicht neu. 2021 entwickelte Nvidia eigens CMP-Miningkarten, um das Mining auszubremsen, und begrenzte ihre Hashrate. Nach dem Ende des Mining-Booms entsperrten einige die CMP-Karten wieder und verkauften sie als normale Grafikkarten. Sie nutzten dafür dieselbe V67- und PLM-Methode. Wer während der Mining-Jahre Karten gekauft hat, kennt die Rechnung: Steigt die Rechenleistung $BTC eine Stufe, steigt auch der Preis der gebrauchten Karte eine Stufe. Damals hielt niemand Leistung für eine physikalische Konstante.
Heute wird mit derselben Methode ein anderes Ziel angegangen. Gesperrt ist nicht mehr die Hashrate, sondern der Tensor Core.
Leute, die lokal Bilder generieren, profitieren als Erste davon. Bei einer 3090 Ti stieg in ComfyUI der BF16-Bilddurchsatz um 47 bis 59 Prozent. Die erzeugten Bilder waren bitgenau identisch – die Geschwindigkeit wurde also nicht mit Bildqualität erkauft. Bei Plattformen wie $RNDR, auf denen man ungenutzte Grafikkarten zur Vermietung anbieten kann, sinken die Kosten auf der Angebotsseite direkt spürbar.
Wer 2021 Cloud-GPUs nach Rechenleistung gemietet hat, bezahlte mit einem Teil seiner Rechnung dafür, dass diese Sperre eingebaut war.
Mich beschäftigt Nvidias Haltung. Bislang gibt es keine offizielle Stellungnahme. Ob Nvidia ein Update herausbringen wird, um diese Lücke zu schließen, ist unklar. Auch ist nicht geklärt, ob der Unterschied bei der halben Geschwindigkeit im Silizium steckt oder in der Firmware festgelegt ist. Der Entwickler spricht lediglich von Registern und hat keine tiefergehenden Belege vorgelegt.
Es gibt auch ein Gegenbeispiel, das zeigt, dass die Sache nicht ganz einheitlich ist: Bei der OEM-exklusiven 3080-Ti-Version mit 20 GB lief der Entsperrvorgang durch, aber BF16 bewegte sich keinen Millimeter. Derselbe Schlüssel öffnet manche Schlösser, andere nicht.
Was man sich wirklich merken sollte, ist nicht dieser Zuwachs von 67 Prozent.
Jedes Design, das denselben Chip je nach Einsatzzweck in verschiedene Leistungsklassen aufteilt und verkauft, wird irgendwann von jemandem über die Register wieder zurückgedreht.
Denn die Sperre steht in der Konfiguration, nicht im Silizium.
Die Karte ist immer noch dieselbe. Das Preisschild nicht.
Die Preise für gebrauchte 3090er dürften sich in den nächsten Tagen bewegen. Wer eine neue Karte kaufen will, kann erst einmal abwarten, bis Nvidia selbst eine Erklärung abgibt.
#英伟达 #美股 #BinanceSquare
Das ist kein Übertakten.
Derjenige, der das gemacht hat, heißt Zagitta. Das Projekt liegt auf GitHub und heißt schlicht gpu-unlock. Es ist kein modifizierter Treiber, sondern ein Linux-Kernelmodul. Es schiebt sich hinein, bevor Nvidia die Karte in Beschlag nimmt, ändert zwei Register in der Hardware, die für die Geschwindigkeitswahl zuständig sind, setzt die GPU zurück und gibt die Karte dann unverändert zurück.
Zwei Werte: einer füllt sich mit acht Achten, der andere nur mit einer Acht. So einfach ist das.
Kein Flashen des VBIOS, keine modifizierte Firmware. Auch bei jedem künftigen Nvidia-Update muss man den Eingriff nicht erneut vornehmen.
Viele halten das für Übertakten oder einen Hack. Beides trifft nicht zu. Der Karte hat es nie an Rechenleistung gefehlt. Gedrosselt war die Ausgaberate einiger Instruktionen: FP16 und BF16 sowie Matrixmultiplikationen mit FP32-Akkumulation. Laut dem Entwickler laufen diese Instruktionen auf Consumer-Karten nur mit halber Geschwindigkeit im Vergleich zu Profi-Karten.
Auf demselben Chip ist die halbe Geschwindigkeit ab Werk eingestellt.
Da muss man einmal nachrechnen. GA102: 28,3 Milliarden Transistoren. Die RTX 3090 kam für 1.499 Dollar auf den Markt, die RTX A6000 für 4.650 Dollar – zwischen den Marktstarts der beiden Karten lagen gerade einmal elf Tage. Wo liegen die Unterschiede bei den technischen Daten? 2,4 Prozent mehr CUDA-Kerne, doppelt so viel Speicher und ECC. Das war's. 3.151 Dollar Unterschied.
Die alte Regel, mit der die Produktlinie $NVDAB über Preisschilder segmentiert wird, beruhte noch nie auf physikalischen Grenzen.
Die Zahlen aus der Community sind noch deutlicher. Bei der 3090 Ti stieg BF16 von 87,5 auf 157,4 – um rund 80 Prozent. Bei der 3070 ging es um 70 bis 80 Prozent nach oben.
Ausgerechnet bei Karten mit einer Leistungsgrenze von 225 Watt beträgt der Zuwachs nur zweieinhalb Prozent. Die Speicherbandbreite hat sich überhaupt nicht verändert. Kein einziger CUDA-Kern ist hinzugekommen. Beim Gaming hat niemand eine höhere Bildrate gemessen.
Beim Ausführen großer Modelle ging die Verarbeitung langer Prompts um mehr als 30 Prozent schneller, während sich das Tempo bei der Token-Generierung kaum änderte. Dieser Teil wird durch den Speicher ausgebremst, nicht durch die Rechenleistung.
Diese Technik ist nicht neu. 2021 entwickelte Nvidia eigens CMP-Miningkarten, um das Mining auszubremsen, und begrenzte ihre Hashrate. Nach dem Ende des Mining-Booms entsperrten einige die CMP-Karten wieder und verkauften sie als normale Grafikkarten. Sie nutzten dafür dieselbe V67- und PLM-Methode. Wer während der Mining-Jahre Karten gekauft hat, kennt die Rechnung: Steigt die Rechenleistung $BTC eine Stufe, steigt auch der Preis der gebrauchten Karte eine Stufe. Damals hielt niemand Leistung für eine physikalische Konstante.
Heute wird mit derselben Methode ein anderes Ziel angegangen. Gesperrt ist nicht mehr die Hashrate, sondern der Tensor Core.
Leute, die lokal Bilder generieren, profitieren als Erste davon. Bei einer 3090 Ti stieg in ComfyUI der BF16-Bilddurchsatz um 47 bis 59 Prozent. Die erzeugten Bilder waren bitgenau identisch – die Geschwindigkeit wurde also nicht mit Bildqualität erkauft. Bei Plattformen wie $RNDR, auf denen man ungenutzte Grafikkarten zur Vermietung anbieten kann, sinken die Kosten auf der Angebotsseite direkt spürbar.
Wer 2021 Cloud-GPUs nach Rechenleistung gemietet hat, bezahlte mit einem Teil seiner Rechnung dafür, dass diese Sperre eingebaut war.
Mich beschäftigt Nvidias Haltung. Bislang gibt es keine offizielle Stellungnahme. Ob Nvidia ein Update herausbringen wird, um diese Lücke zu schließen, ist unklar. Auch ist nicht geklärt, ob der Unterschied bei der halben Geschwindigkeit im Silizium steckt oder in der Firmware festgelegt ist. Der Entwickler spricht lediglich von Registern und hat keine tiefergehenden Belege vorgelegt.
Es gibt auch ein Gegenbeispiel, das zeigt, dass die Sache nicht ganz einheitlich ist: Bei der OEM-exklusiven 3080-Ti-Version mit 20 GB lief der Entsperrvorgang durch, aber BF16 bewegte sich keinen Millimeter. Derselbe Schlüssel öffnet manche Schlösser, andere nicht.
Was man sich wirklich merken sollte, ist nicht dieser Zuwachs von 67 Prozent.
Jedes Design, das denselben Chip je nach Einsatzzweck in verschiedene Leistungsklassen aufteilt und verkauft, wird irgendwann von jemandem über die Register wieder zurückgedreht.
Denn die Sperre steht in der Konfiguration, nicht im Silizium.
Die Karte ist immer noch dieselbe. Das Preisschild nicht.
Die Preise für gebrauchte 3090er dürften sich in den nächsten Tagen bewegen. Wer eine neue Karte kaufen will, kann erst einmal abwarten, bis Nvidia selbst eine Erklärung abgibt.
#英伟达 #美股 #BinanceSquare
