Kapasitas listrik menunjukkan total daya yang diambil suatu fasilitas dari jaringan listrik, sedangkan megawatt hanya mengukur konsumsi pusat data, bukan nilai yang benar-benar dihasilkannya.
Karena perbedaan ini, token per megawatt dengan cepat muncul sebagai tolok ukur yang benar-benar penting. Metrik tunggal ini menyatukan kinerja silikon, efisiensi pendinginan, arsitektur perangkat lunak, dan pemanfaatan sistem menjadi satu gambaran yang jelas.
Faktanya, riset NVIDIA mengungkapkan bahwa pabrik AI yang dioptimalkan sepenuhnya menghasilkan 2,6 kali lebih banyak token per detik per megawatt dibandingkan fasilitas yang tidak dioptimalkan, dengan sebagian besar keunggulan tersebut berasal dari penjadwalan cerdas dan penyetelan saat runtime.
Untuk mengetahui lebih lanjut tentang cara mengevaluasi kinerja fasilitas komputasi modern, simak panduan Aethir tentang cara menilai pusat data AI.
Karena perbedaan ini, token per megawatt dengan cepat muncul sebagai tolok ukur yang benar-benar penting. Metrik tunggal ini menyatukan kinerja silikon, efisiensi pendinginan, arsitektur perangkat lunak, dan pemanfaatan sistem menjadi satu gambaran yang jelas.
Faktanya, riset NVIDIA mengungkapkan bahwa pabrik AI yang dioptimalkan sepenuhnya menghasilkan 2,6 kali lebih banyak token per detik per megawatt dibandingkan fasilitas yang tidak dioptimalkan, dengan sebagian besar keunggulan tersebut berasal dari penjadwalan cerdas dan penyetelan saat runtime.
Untuk mengetahui lebih lanjut tentang cara mengevaluasi kinerja fasilitas komputasi modern, simak panduan Aethir tentang cara menilai pusat data AI.