電力容量は施設が電力網から引き込む電力の総量を示しますが、メガワットはデータセンターが実際に生み出す価値ではなく、消費する電力量を測る指標にすぎません。

この違いから、メガワットあたりのトークン数が、真に重要なベンチマークとして急速に注目されています。この単一の指標によって、シリコンの性能、冷却効率、ソフトウェアアーキテクチャ、システムの稼働率を一つの明確な全体像として捉えられます。

実際、NVIDIAの調査によると、完全に最適化されたAIファクトリーは、最適化されていない施設と比べて、メガワットあたり毎秒2.6倍のトークンを生成します。その優位性のかなりの部分は、スマートなスケジューリングと実行時のチューニングによるものです。

最新のコンピューティング施設の性能評価について詳しく知りたい方は、AIデータセンターの評価方法を解説したAethirのガイドをご覧ください。