Perdagangan AI dalam satu kalimat: kita mengubah energi menjadi kecerdasan. Nilai tukar—akurasi per joule—meningkat 18x dalam 16 bulan. Sekitar 6x karena perangkat keras yang lebih baik, 3x dari model yang lebih baik. Setiap perusahaan yang mendorong rasio ini siap untuk menang.
Berikut tumpukan yang dapat diinvestasikan:
$NVDA: Setiap generasi GPU melipatgandakan kecerdasan per watt. Hopper ke Blackwell adalah lompatan besar. Efisiensi adalah model bisnis, dan alasan mengapa pelanggan terus melakukan upgrade untuk pelatihan.
Memori ($MU, SK Hynix, Samsung): HBM menjaga chip tetap “terisi” sehingga tidak ada joule yang terbuang karena menunggu. Setiap generasi HBM memindahkan lebih banyak data per watt. Kebutuhan memori meningkat seiring setiap GPU terjual, dan kita juga perlu lebih banyak memori per GPU.
$IFNNY: Produsen semikonduktor daya terbesar di dunia—chip yang mengubah dan mengendalikan listrik itu sendiri. Satu rak AI menarik lebih dari 100 kilowatt, dan setiap konversi daya antara jaringan dan chip kehilangan energi dalam bentuk panas. Nvidia memindahkan pusat data ke daya 800-volt akhir tahun ini, yang berarti lebih sedikit konversi dan lebih banyak komponen Infineon per rak.
$AVGO: Menyerang energi yang hilang di antara chip. Pelatihan bukan cuma satu chip yang berpikir—itu puluhan ribu GPU yang berdialog terus-menerus, dan percakapan itu adalah biaya energi yang murni. Chip switch Broadcom memindahkan sekitar dua kali lebih banyak data per watt setiap generasi, dan optik yang dikemas bersama mengubah sinyal menjadi cahaya tepat di dekat chip, sehingga biaya daya turun drastis. Fabrik yang lebih cepat juga berarti waktu menganggur GPU lebih sedikit, sehingga setiap chip di rak menjadi lebih produktif per joule.
Silikon khusus (TPU $GOOGL, $AMZN Trainium): GPU itu fleksibel, tapi Anda membayar fleksibilitas itu dengan joule yang terbuang. Chip khusus menghilangkan semuanya kecuali matematika AI yang benar-benar dibutuhkan, sehingga hampir setiap joule masuk ke kerja yang berguna. Alur kerja desain kembali ke $AVGO dan $MRVL.
Inilah trade-off efisiensi AI. Kuasai tumpukan yang mengubah listrik menjadi kecerdasan.
Berikut tumpukan yang dapat diinvestasikan:
$NVDA: Setiap generasi GPU melipatgandakan kecerdasan per watt. Hopper ke Blackwell adalah lompatan besar. Efisiensi adalah model bisnis, dan alasan mengapa pelanggan terus melakukan upgrade untuk pelatihan.
Memori ($MU, SK Hynix, Samsung): HBM menjaga chip tetap “terisi” sehingga tidak ada joule yang terbuang karena menunggu. Setiap generasi HBM memindahkan lebih banyak data per watt. Kebutuhan memori meningkat seiring setiap GPU terjual, dan kita juga perlu lebih banyak memori per GPU.
$IFNNY: Produsen semikonduktor daya terbesar di dunia—chip yang mengubah dan mengendalikan listrik itu sendiri. Satu rak AI menarik lebih dari 100 kilowatt, dan setiap konversi daya antara jaringan dan chip kehilangan energi dalam bentuk panas. Nvidia memindahkan pusat data ke daya 800-volt akhir tahun ini, yang berarti lebih sedikit konversi dan lebih banyak komponen Infineon per rak.
$AVGO: Menyerang energi yang hilang di antara chip. Pelatihan bukan cuma satu chip yang berpikir—itu puluhan ribu GPU yang berdialog terus-menerus, dan percakapan itu adalah biaya energi yang murni. Chip switch Broadcom memindahkan sekitar dua kali lebih banyak data per watt setiap generasi, dan optik yang dikemas bersama mengubah sinyal menjadi cahaya tepat di dekat chip, sehingga biaya daya turun drastis. Fabrik yang lebih cepat juga berarti waktu menganggur GPU lebih sedikit, sehingga setiap chip di rak menjadi lebih produktif per joule.
Silikon khusus (TPU $GOOGL, $AMZN Trainium): GPU itu fleksibel, tapi Anda membayar fleksibilitas itu dengan joule yang terbuang. Chip khusus menghilangkan semuanya kecuali matematika AI yang benar-benar dibutuhkan, sehingga hampir setiap joule masuk ke kerja yang berguna. Alur kerja desain kembali ke $AVGO dan $MRVL.
Inilah trade-off efisiensi AI. Kuasai tumpukan yang mengubah listrik menjadi kecerdasan.