Một chiếc RTX 3090 mua từ sáu năm trước, chỉ cần ghi hai con số vào thanh ghi là sức mạnh tính toán ma trận nhảy từ 77.5 lên 129.6 TFLOPS.
Đây không phải ép xung.
Người làm việc này tên là Zagitta. Dự án được đăng trên GitHub, tên là gpu-unlock. Đây không phải trình điều khiển đã chỉnh sửa, mà là một mô-đun nhân Linux. Nó chen vào trước khi NVIDIA nhận quyền kiểm soát chiếc card, thay đổi hai thanh ghi phần cứng phụ trách chọn tốc độ, khởi động lại GPU rồi trả nguyên chiếc card về.
Hai giá trị: một giá trị điền tám số 8, giá trị còn lại chỉ điền một số 8. Đơn giản đúng vậy thôi.
Không flash VBIOS, không cài firmware sửa đổi. Sau này mỗi lần NVIDIA cập nhật, cũng không cần bẻ khóa lại.
Nhiều người nghĩ đây là ép xung hay bẻ khóa. Thật ra đều không phải. Sức mạnh tính toán của card chưa bao giờ bị cắt giảm; thứ bị ghìm lại là tốc độ phát một số lệnh: phép nhân ma trận FP16 và BF16 có tích lũy FP32. Nhà phát triển cho biết trên card tiêu dùng, các lệnh này chỉ chạy bằng một nửa tốc độ của card chuyên nghiệp.
Cùng một con chip, một nửa tốc độ là thiết lập mặc định khi xuất xưởng.
Vậy thì phải tính thử một phép toán. GA102 có 28,3 tỷ bóng bán dẫn. RTX 3090 ra mắt với giá 1.499 đô la, RTX A6000 ra mắt với giá 4.650 đô la; hai card chỉ cách nhau mười một ngày ra mắt. Khác nhau ở thông số nào? Nhiều hơn 2,4% nhân CUDA, gấp đôi bộ nhớ, thêm ECC. Chỉ có vậy, mà chênh 3.151 đô la.
$NVDAB Cái lệ cũ trong ngành chia dòng sản phẩm theo giá chưa bao giờ dựa vào giới hạn vật lý.
Những con số cộng đồng báo lại còn rõ ràng hơn. BF16 trên 3090 Ti tăng từ 87.5 lên 157.4, gần 80%. Trên 3070, mức tăng từ 70% đến 80%.
Ấy vậy mà những card bị giới hạn công suất ở 225 watt chỉ tăng khoảng 25%. Băng thông bộ nhớ hoàn toàn không đổi. Số nhân CUDA cũng không tăng thêm. Chưa ai đo được mức cải thiện nào về tốc độ khung hình trong game.
Khi chạy mô hình lớn, xử lý prompt dài nhanh hơn hơn 30%; tốc độ tạo token gần như không đổi, vì đoạn đó bị nghẽn ở bộ nhớ chứ không phải ở năng lực tính toán.
Thủ thuật này không phải mới học được. Năm 2021, NVIDIA từng làm một lô card đào tiền mã hóa chuyên dụng CMP để ngăn đào coin, khóa cứng tốc độ băm. Sau cú sập của thị trường đào coin, có người mở khóa CMP rồi bán lại như card đồ họa thông thường, cũng dùng cách V67 và PLM đó. Những ai từng mua card trong những năm đào coin đều nhớ rõ trong sổ sách: $BTC sức mạnh tính toán tăng một bậc, giá card cũ cũng tăng theo. Khi ấy chẳng ai nghĩ hiệu năng là một hằng số vật lý.
Hôm nay, cũng thủ thuật ấy, nhưng đổi mục tiêu. Thứ bị khóa không còn là tốc độ băm, mà là Tensor Core.
Những người chạy tạo ảnh tại chỗ là nhóm đầu tiên hưởng lợi. Trên ComfyUI, một chiếc 3090 Ti tăng thông lượng tạo ảnh BF16 từ 47% đến 59%; kết quả tạo ra giống nhau từng bit, chứ không phải đánh đổi chất lượng hình ảnh lấy tốc độ. Các nền tảng như $RNDR, nơi người dùng cho thuê card đồ họa nhàn rỗi để nhận việc, sẽ thấy chi phí ở phía nguồn cung giảm trực tiếp một khoản.
Những ai từng thuê GPU đám mây theo năng lực tính toán vào năm 2021 đã trả một phần hóa đơn để chi trả cho cái khóa này.
Điều tôi đang nghĩ đến là thái độ của NVIDIA. Đến giờ vẫn chưa có phản hồi chính thức; liệu họ có tung bản vá để bịt lỗ hổng này hay không thì chưa có câu trả lời rõ ràng. Ngoài ra, việc chỉ chạy bằng nửa tốc độ này rốt cuộc do silicon quyết định hay được ghi trong firmware, nhà phát triển chỉ nói là do thanh ghi, chứ chưa đưa ra bằng chứng sâu hơn.
Còn có một trường hợp trái ngược, vừa hay cho thấy chuyện này không đơn giản như vậy: phiên bản 3080 Ti 20 GB dành riêng cho OEM chạy được quy trình mở khóa, nhưng BF16 lại chẳng nhúc nhích. Cùng một chiếc chìa khóa, có ổ mở được, có ổ thì không.
Điều thực sự đáng nhớ không phải là mức tăng 67% này.
Bất kỳ thiết kế nào chia cùng một miếng silicon thành nhiều cấp độ để bán theo mục đích sử dụng, sớm muộn cũng sẽ có người lần ngược từ phía thanh ghi để lật ngược nó.
Bởi vì khóa được ghi trong cấu hình, chứ không nằm trong cát.
Card vẫn là chiếc card ấy. Còn giá niêm yết thì không.
Giá chào bán 3090 cũ có thể sẽ biến động trong vài ngày tới. Ai định mua card mới thì có thể chờ NVIDIA tự giải thích rồi hãy tính.
#英伟达 #美股 #Quảng trường Binance
Đây không phải ép xung.
Người làm việc này tên là Zagitta. Dự án được đăng trên GitHub, tên là gpu-unlock. Đây không phải trình điều khiển đã chỉnh sửa, mà là một mô-đun nhân Linux. Nó chen vào trước khi NVIDIA nhận quyền kiểm soát chiếc card, thay đổi hai thanh ghi phần cứng phụ trách chọn tốc độ, khởi động lại GPU rồi trả nguyên chiếc card về.
Hai giá trị: một giá trị điền tám số 8, giá trị còn lại chỉ điền một số 8. Đơn giản đúng vậy thôi.
Không flash VBIOS, không cài firmware sửa đổi. Sau này mỗi lần NVIDIA cập nhật, cũng không cần bẻ khóa lại.
Nhiều người nghĩ đây là ép xung hay bẻ khóa. Thật ra đều không phải. Sức mạnh tính toán của card chưa bao giờ bị cắt giảm; thứ bị ghìm lại là tốc độ phát một số lệnh: phép nhân ma trận FP16 và BF16 có tích lũy FP32. Nhà phát triển cho biết trên card tiêu dùng, các lệnh này chỉ chạy bằng một nửa tốc độ của card chuyên nghiệp.
Cùng một con chip, một nửa tốc độ là thiết lập mặc định khi xuất xưởng.
Vậy thì phải tính thử một phép toán. GA102 có 28,3 tỷ bóng bán dẫn. RTX 3090 ra mắt với giá 1.499 đô la, RTX A6000 ra mắt với giá 4.650 đô la; hai card chỉ cách nhau mười một ngày ra mắt. Khác nhau ở thông số nào? Nhiều hơn 2,4% nhân CUDA, gấp đôi bộ nhớ, thêm ECC. Chỉ có vậy, mà chênh 3.151 đô la.
$NVDAB Cái lệ cũ trong ngành chia dòng sản phẩm theo giá chưa bao giờ dựa vào giới hạn vật lý.
Những con số cộng đồng báo lại còn rõ ràng hơn. BF16 trên 3090 Ti tăng từ 87.5 lên 157.4, gần 80%. Trên 3070, mức tăng từ 70% đến 80%.
Ấy vậy mà những card bị giới hạn công suất ở 225 watt chỉ tăng khoảng 25%. Băng thông bộ nhớ hoàn toàn không đổi. Số nhân CUDA cũng không tăng thêm. Chưa ai đo được mức cải thiện nào về tốc độ khung hình trong game.
Khi chạy mô hình lớn, xử lý prompt dài nhanh hơn hơn 30%; tốc độ tạo token gần như không đổi, vì đoạn đó bị nghẽn ở bộ nhớ chứ không phải ở năng lực tính toán.
Thủ thuật này không phải mới học được. Năm 2021, NVIDIA từng làm một lô card đào tiền mã hóa chuyên dụng CMP để ngăn đào coin, khóa cứng tốc độ băm. Sau cú sập của thị trường đào coin, có người mở khóa CMP rồi bán lại như card đồ họa thông thường, cũng dùng cách V67 và PLM đó. Những ai từng mua card trong những năm đào coin đều nhớ rõ trong sổ sách: $BTC sức mạnh tính toán tăng một bậc, giá card cũ cũng tăng theo. Khi ấy chẳng ai nghĩ hiệu năng là một hằng số vật lý.
Hôm nay, cũng thủ thuật ấy, nhưng đổi mục tiêu. Thứ bị khóa không còn là tốc độ băm, mà là Tensor Core.
Những người chạy tạo ảnh tại chỗ là nhóm đầu tiên hưởng lợi. Trên ComfyUI, một chiếc 3090 Ti tăng thông lượng tạo ảnh BF16 từ 47% đến 59%; kết quả tạo ra giống nhau từng bit, chứ không phải đánh đổi chất lượng hình ảnh lấy tốc độ. Các nền tảng như $RNDR, nơi người dùng cho thuê card đồ họa nhàn rỗi để nhận việc, sẽ thấy chi phí ở phía nguồn cung giảm trực tiếp một khoản.
Những ai từng thuê GPU đám mây theo năng lực tính toán vào năm 2021 đã trả một phần hóa đơn để chi trả cho cái khóa này.
Điều tôi đang nghĩ đến là thái độ của NVIDIA. Đến giờ vẫn chưa có phản hồi chính thức; liệu họ có tung bản vá để bịt lỗ hổng này hay không thì chưa có câu trả lời rõ ràng. Ngoài ra, việc chỉ chạy bằng nửa tốc độ này rốt cuộc do silicon quyết định hay được ghi trong firmware, nhà phát triển chỉ nói là do thanh ghi, chứ chưa đưa ra bằng chứng sâu hơn.
Còn có một trường hợp trái ngược, vừa hay cho thấy chuyện này không đơn giản như vậy: phiên bản 3080 Ti 20 GB dành riêng cho OEM chạy được quy trình mở khóa, nhưng BF16 lại chẳng nhúc nhích. Cùng một chiếc chìa khóa, có ổ mở được, có ổ thì không.
Điều thực sự đáng nhớ không phải là mức tăng 67% này.
Bất kỳ thiết kế nào chia cùng một miếng silicon thành nhiều cấp độ để bán theo mục đích sử dụng, sớm muộn cũng sẽ có người lần ngược từ phía thanh ghi để lật ngược nó.
Bởi vì khóa được ghi trong cấu hình, chứ không nằm trong cát.
Card vẫn là chiếc card ấy. Còn giá niêm yết thì không.
Giá chào bán 3090 cũ có thể sẽ biến động trong vài ngày tới. Ai định mua card mới thì có thể chờ NVIDIA tự giải thích rồi hãy tính.
#英伟达 #美股 #Quảng trường Binance
