Sebuah RTX 3090 yang dibeli enam tahun lalu, seseorang menulis dua angka ke dalam register-nya, dan komputasi matriksnya melonjak dari 77.5 menjadi 129.6 TFLOPS.
Ini bukan overclocking.
Orang yang melakukannya bernama Zagitta. Proyeknya ada di GitHub, dengan nama gpu-unlock. Ini bukan driver yang dimodifikasi, melainkan modul kernel Linux yang menyusup sebelum NVIDIA mengambil alih kartu ini, mengubah dua register di perangkat keras yang mengatur pemilihan kecepatan, mereset GPU sekali, lalu mengembalikan kartu itu seperti semula.
Dua nilai: satu diisi delapan angka 8, satunya hanya satu angka 8. Sesederhana itu.
Tidak perlu mem-flash VBIOS atau memasang firmware modifikasi. Setiap kali NVIDIA melakukan pembaruan, tak perlu membobolnya lagi.
Banyak orang mengira ini overclocking atau pembobolan. Padahal bukan keduanya. Kemampuan komputasi kartu ini tidak pernah berkurang; yang dibatasi adalah laju eksekusi beberapa instruksi: FP16 dan BF16, perkalian matriks dengan akumulasi FP32. Menurut pengembangnya, di kartu konsumen, instruksi-instruksi ini hanya berjalan dengan setengah kecepatan kartu profesional.
Chip yang sama, tetapi kecepatan setengahnya adalah pengaturan bawaan pabrik.
Sekarang mari berhitung. GA102, dengan 28,3 miliar transistor. Harga peluncuran RTX 3090 adalah 1.499 dolar AS, sedangkan RTX A6000 diluncurkan dengan harga 4.650 dolar AS. Jarak peluncuran kedua kartu hanya sebelas hari. Apa bedanya spesifikasinya? Inti CUDA 2,4 persen lebih banyak, VRAM dua kali lipat, dan ada ECC. Itu saja, selisih 3.151 dolar AS.
$NVDAB Aturan lama soal penetapan harga di lini produk itu tidak pernah bergantung pada batasan fisik.
Angka-angka yang dilaporkan komunitas lebih gamblang lagi. BF16 pada 3090 Ti naik dari 87.5 menjadi 157.4, kenaikan sekitar 80 persen. Pada 3070, kenaikannya 70 sampai 80 persen.
Anehnya, kartu dengan batas daya 225 watt hanya naik sekitar 25 persen. Bandwidth memori sama sekali tidak berubah. Jumlah inti CUDA juga tidak bertambah. Tak ada yang berhasil mengukur peningkatan frame rate game.
Saat menjalankan model besar, pemrosesan prompt panjang menjadi lebih dari 30 persen lebih cepat, tetapi kecepatan menghasilkan token pada dasarnya tidak berubah. Bagian itu tersendat karena memori, bukan kemampuan komputasi.
Teknik ini bukan hal baru. Pada 2021, NVIDIA membuat sejumlah kartu CMP khusus untuk penambangan demi menghalangi penambangan kripto, dengan hash rate yang dikunci. Setelah pasar kripto ambruk, ada yang membuka kembali kunci CMP dan menjualnya sebagai kartu grafis biasa. Mereka menggunakan metode V67 dan PLM yang sama. Orang-orang yang membeli kartu pada tahun-tahun penambangan itu masih ingat hitung-hitungannya: ketika kemampuan komputasi $BTC naik satu tingkat, harga kartu bekas ikut naik satu tingkat. Saat itu, tak ada yang menganggap performa sebagai konstanta fisika.
Hari ini, teknik yang sama digunakan untuk sasaran berbeda. Yang dikunci bukan lagi hash rate, melainkan Tensor Core.
Orang-orang yang membuat gambar secara lokal justru lebih dulu menikmati manfaatnya. Pada RTX 3090 Ti di ComfyUI, throughput pembuatan gambar BF16 naik 47 sampai 59 persen, sementara hasil gambarnya identik hingga ke tiap bit—bukan menukar kualitas gambar dengan kecepatan. Platform seperti $RNDR, yang menyewakan kartu grafis menganggur untuk menerima pekerjaan, bisa langsung memangkas biaya di sisi penyedia.
Orang-orang yang menyewa GPU cloud berdasarkan kemampuan komputasi pada 2021 membayar sebagian tagihan mereka untuk kunci ini.
Yang saya pikirkan adalah sikap NVIDIA. Sampai sekarang belum ada tanggapan resmi. Belum jelas apakah mereka akan merilis patch untuk menutup celah ini. Selain itu, perbedaan kecepatan hingga setengah ini sebenarnya ditentukan oleh silikon atau ditulis dalam firmware? Pengembang hanya menyebut register, tanpa memberikan bukti lebih mendalam.
Ada juga contoh yang berlawanan, yang menunjukkan bahwa persoalannya tidak sesederhana itu: versi 3080 Ti OEM khusus dengan VRAM 20 GB berhasil melewati proses unlock, tetapi BF16 sama sekali tidak berubah. Kunci yang sama, tetapi ada yang bisa dibuka dan ada yang tidak.
Yang benar-benar perlu diingat bukanlah peningkatan 67 persen ini.
Setiap desain yang membagi silikon yang sama menjadi beberapa tingkat berdasarkan peruntukannya, pada akhirnya akan dibongkar orang dari sisi register.
Sebab kuncinya ditulis dalam konfigurasi, bukan di dalam silikon.
Kartu itu tetap kartu yang sama. Label harganya tidak.
Harga RTX 3090 bekas mungkin akan bergerak dalam beberapa hari ke depan. Yang berencana membeli kartu baru, mungkin bisa menunggu NVIDIA menjelaskannya sendiri dulu.
#英伟达 #美股 #币安广场
Ini bukan overclocking.
Orang yang melakukannya bernama Zagitta. Proyeknya ada di GitHub, dengan nama gpu-unlock. Ini bukan driver yang dimodifikasi, melainkan modul kernel Linux yang menyusup sebelum NVIDIA mengambil alih kartu ini, mengubah dua register di perangkat keras yang mengatur pemilihan kecepatan, mereset GPU sekali, lalu mengembalikan kartu itu seperti semula.
Dua nilai: satu diisi delapan angka 8, satunya hanya satu angka 8. Sesederhana itu.
Tidak perlu mem-flash VBIOS atau memasang firmware modifikasi. Setiap kali NVIDIA melakukan pembaruan, tak perlu membobolnya lagi.
Banyak orang mengira ini overclocking atau pembobolan. Padahal bukan keduanya. Kemampuan komputasi kartu ini tidak pernah berkurang; yang dibatasi adalah laju eksekusi beberapa instruksi: FP16 dan BF16, perkalian matriks dengan akumulasi FP32. Menurut pengembangnya, di kartu konsumen, instruksi-instruksi ini hanya berjalan dengan setengah kecepatan kartu profesional.
Chip yang sama, tetapi kecepatan setengahnya adalah pengaturan bawaan pabrik.
Sekarang mari berhitung. GA102, dengan 28,3 miliar transistor. Harga peluncuran RTX 3090 adalah 1.499 dolar AS, sedangkan RTX A6000 diluncurkan dengan harga 4.650 dolar AS. Jarak peluncuran kedua kartu hanya sebelas hari. Apa bedanya spesifikasinya? Inti CUDA 2,4 persen lebih banyak, VRAM dua kali lipat, dan ada ECC. Itu saja, selisih 3.151 dolar AS.
$NVDAB Aturan lama soal penetapan harga di lini produk itu tidak pernah bergantung pada batasan fisik.
Angka-angka yang dilaporkan komunitas lebih gamblang lagi. BF16 pada 3090 Ti naik dari 87.5 menjadi 157.4, kenaikan sekitar 80 persen. Pada 3070, kenaikannya 70 sampai 80 persen.
Anehnya, kartu dengan batas daya 225 watt hanya naik sekitar 25 persen. Bandwidth memori sama sekali tidak berubah. Jumlah inti CUDA juga tidak bertambah. Tak ada yang berhasil mengukur peningkatan frame rate game.
Saat menjalankan model besar, pemrosesan prompt panjang menjadi lebih dari 30 persen lebih cepat, tetapi kecepatan menghasilkan token pada dasarnya tidak berubah. Bagian itu tersendat karena memori, bukan kemampuan komputasi.
Teknik ini bukan hal baru. Pada 2021, NVIDIA membuat sejumlah kartu CMP khusus untuk penambangan demi menghalangi penambangan kripto, dengan hash rate yang dikunci. Setelah pasar kripto ambruk, ada yang membuka kembali kunci CMP dan menjualnya sebagai kartu grafis biasa. Mereka menggunakan metode V67 dan PLM yang sama. Orang-orang yang membeli kartu pada tahun-tahun penambangan itu masih ingat hitung-hitungannya: ketika kemampuan komputasi $BTC naik satu tingkat, harga kartu bekas ikut naik satu tingkat. Saat itu, tak ada yang menganggap performa sebagai konstanta fisika.
Hari ini, teknik yang sama digunakan untuk sasaran berbeda. Yang dikunci bukan lagi hash rate, melainkan Tensor Core.
Orang-orang yang membuat gambar secara lokal justru lebih dulu menikmati manfaatnya. Pada RTX 3090 Ti di ComfyUI, throughput pembuatan gambar BF16 naik 47 sampai 59 persen, sementara hasil gambarnya identik hingga ke tiap bit—bukan menukar kualitas gambar dengan kecepatan. Platform seperti $RNDR, yang menyewakan kartu grafis menganggur untuk menerima pekerjaan, bisa langsung memangkas biaya di sisi penyedia.
Orang-orang yang menyewa GPU cloud berdasarkan kemampuan komputasi pada 2021 membayar sebagian tagihan mereka untuk kunci ini.
Yang saya pikirkan adalah sikap NVIDIA. Sampai sekarang belum ada tanggapan resmi. Belum jelas apakah mereka akan merilis patch untuk menutup celah ini. Selain itu, perbedaan kecepatan hingga setengah ini sebenarnya ditentukan oleh silikon atau ditulis dalam firmware? Pengembang hanya menyebut register, tanpa memberikan bukti lebih mendalam.
Ada juga contoh yang berlawanan, yang menunjukkan bahwa persoalannya tidak sesederhana itu: versi 3080 Ti OEM khusus dengan VRAM 20 GB berhasil melewati proses unlock, tetapi BF16 sama sekali tidak berubah. Kunci yang sama, tetapi ada yang bisa dibuka dan ada yang tidak.
Yang benar-benar perlu diingat bukanlah peningkatan 67 persen ini.
Setiap desain yang membagi silikon yang sama menjadi beberapa tingkat berdasarkan peruntukannya, pada akhirnya akan dibongkar orang dari sisi register.
Sebab kuncinya ditulis dalam konfigurasi, bukan di dalam silikon.
Kartu itu tetap kartu yang sama. Label harganya tidak.
Harga RTX 3090 bekas mungkin akan bergerak dalam beberapa hari ke depan. Yang berencana membeli kartu baru, mungkin bisa menunggu NVIDIA menjelaskannya sendiri dulu.
#英伟达 #美股 #币安广场
