Bisnis AI Nvidia menghadapi tekanan biaya baru yang mudah diabaikan karena masalahnya terjadi di luar GPU itu sendiri. Laporan mengindikasikan bahwa pelanggan diberi tahu tentang kenaikan harga server AI sebesar lebih dari 15%, dengan beberapa sistem berharga lebih tinggi diperkirakan terdampak mulai awal 2027.
Kenaikan yang dilaporkan ini sangat terkait dengan meningkatnya biaya memori berteknologi maju. Server AI membutuhkan bandwidth memori yang jauh lebih besar dibandingkan server konvensional karena model bahasa besar dan beban kerja AI lainnya terus-menerus memindahkan data dalam jumlah besar antara prosesor dan memori. Memori berbandwidth tinggi pun menjadi salah satu komponen paling penting dalam infrastruktur AI modern.
Permintaan telah tumbuh dengan cepat karena penyedia layanan cloud terus membangun klaster GPU besar. Platform terbaru Nvidia menggabungkan akselerator yang kuat dengan CPU, jaringan, dan konfigurasi memori berkapasitas besar, yang berarti biaya komponen yang lebih tinggi dapat memengaruhi harga keseluruhan sistem, bukan hanya harga prosesor.
Bloomberg, yang dikutip oleh Reuters, melaporkan bahwa kenaikan tersebut dapat bervariasi tergantung pada platform Nvidia dan konfigurasi memorinya. Sistem berbasis teknologi Vera Rubin yang lebih baru dan produk Grace Blackwell yang sudah ada termasuk yang diperkirakan mengalami penetapan harga yang lebih tinggi. Perusahaan teknologi besar dan operator cloud, menurut laporan, telah diberi informasi melalui pemasok server mereka.
Waktunya penting karena belanja infrastruktur AI masih sangat kuat. Perusahaan cloud mengucurkan jumlah modal yang sangat besar untuk pusat data, GPU, peralatan jaringan, dan kapasitas listrik. Prakiraan industri terus menunjukkan pertumbuhan pesat dalam pengiriman server AI, sehingga memberi tekanan tambahan pada pemasok di seluruh rantai perangkat keras.
Produsen memori sangat penting dalam persamaan ini. Memproduksi memori canggih memerlukan kapasitas manufaktur khusus, dan memperluas kapasitas tersebut memerlukan waktu yang cukup lama. Ketika perusahaan-perusahaan AI meningkatkan pesanan lebih cepat daripada produsen dapat menambah pasokan, harga bisa naik dengan cepat.
Hal itu menciptakan situasi yang sulit bagi operator pusat data. Membeli lebih sedikit server dapat memperlambat penerapan kapasitas AI baru, sementara terus membeli dengan harga yang lebih tinggi meningkatkan biaya pelatihan dan penggunaan model AI. Dampak finansial pada akhirnya mencapai pelanggan cloud, startup AI, dan perusahaan yang bergantung pada kekuatan komputasi yang disewa.
Nvidia masih memiliki kekuatan penetapan harga yang signifikan karena ekosistem AI-nya melampaui chip individual. Perangkat keras akseleratornya didukung oleh produk jaringan, perangkat lunak, alat pengembangan, dan platform server lengkap. Karena itu, pelanggan tidak selalu dapat mengganti satu komponen tanpa mempertimbangkan sistem yang lebih luas.
Namun, kenaikan berkelanjutan dalam biaya infrastruktur dapat memperkuat insentif bagi perusahaan teknologi besar untuk mengembangkan prosesor alternatif. Hyperscaler telah menginvestasikan besar-besaran pada akselerator AI buatan sendiri, sebagian untuk mengurangi ketergantungan pada pemasok eksternal dan memperbaiki ekonomi dalam menjalankan beban kerja besar.
Pengembangan ini juga menyoroti perubahan yang lebih luas di pasar AI. Kendala terbesar kini bukan lagi sekadar apakah cukup banyak GPU yang dapat diproduksi. Memori, jaringan, listrik, pendinginan, pembangunan pusat data, serta kapasitas produksi semikonduktor semuanya semakin saling terhubung menjadi hambatan yang saling membatasi.
Laporan pendapatan Nvidia yang akan datang akan memberikan kesempatan penting untuk melihat bagaimana perusahaan memandang tekanan-tekanan tersebut. Investor akan mengawasi permintaan, margin, ketersediaan pasokan, dan panduan (guidance) saat pembangunan infrastruktur AI memasuki fase ekspansi lainnya.
Kenaikan harga server yang dilaporkan tidak selalu menandakan permintaan AI yang melemah. Bahkan, bisa jadi justru sebaliknya: permintaan untuk infrastruktur AI tetap cukup kuat untuk menekan secara signifikan beberapa bagian dari rantai pasokan sekaligus.
Cerita besarnya adalah bahwa penskalaan AI semakin menjadi bisnis infrastruktur yang jauh lebih mahal. Nvidia tetap menjadi salah satu perusahaan sentral yang diuntungkan dari ekspansi itu, tetapi meningkatnya biaya memori dan sistem menunjukkan bahwa tahap pertumbuhan AI berikutnya tidak hanya akan bergantung pada chip yang lebih cepat, melainkan juga pada apakah seluruh ekosistem perangkat keras dapat berkembang dengan cukup cepat untuk mendukungnya.