Inilah alasan persisnya mengapa saya tetap optimistis terhadap infrastruktur AI.
Lihat perbandingan harga sewa GPU dengan harga token AI sejak Juli. Biaya token anjlok. Sewa H100? Masih tinggi, sekitar $2.70/jam.
Inilah Paradoks Jevons klasik. Ketika sesuatu menjadi lebih murah, orang menggunakannya jauh lebih banyak. Tugas AI yang sebelumnya terlalu mahal untuk dijalankan dalam skala besar tiba-tiba menjadi layak. Jika biaya menjalankan agen AI lebih rendah, perusahaan akan menerapkan ribuan, bukan ratusan. Asisten coding, pencarian, dukungan pelanggan — semua kasus penggunaan yang intensif inferensi akan meningkat skalanya.
Lebih banyak penggunaan = lebih banyak permintaan untuk GPU, memori, jaringan, pusat data, dan daya.
Meski harga token anjlok, harga sewa H100 tetap bertahan. Ini menunjukkan bahwa permintaan komputasi masih kuat meski efisiensi meningkat. Ya, dinamika pasokan dan generasi GPU yang lebih baru juga berpengaruh. Namun, ketahanan harga komputasi saat harga token turun? Itu sebuah sinyal.
Menurut saya, pasar meremehkan seberapa besar penggunaan AI tambahan yang akan dibuka oleh harga lebih rendah dalam beberapa tahun ke depan. Kita masih di tahap awal. Sebagian besar bisnis baru mulai mengintegrasikan AI ke dalam operasional sehari-hari.
Itulah mengapa saya lebih memilih pemasok infrastruktur daripada mencoba menebak penyedia model mana yang akan menang. Baik OpenAI, Anthropic, Google, maupun sumber terbuka — tetap ada pihak yang harus menyediakan komputasinya. Selama penggunaan AI tumbuh lebih cepat daripada efisiensi mengurangi kebutuhan komputasi, pembangunan infrastruktur akan terus berlanjut.
Optimistis terhadap komputasi, memori, jaringan, dan daya.
Lihat perbandingan harga sewa GPU dengan harga token AI sejak Juli. Biaya token anjlok. Sewa H100? Masih tinggi, sekitar $2.70/jam.
Inilah Paradoks Jevons klasik. Ketika sesuatu menjadi lebih murah, orang menggunakannya jauh lebih banyak. Tugas AI yang sebelumnya terlalu mahal untuk dijalankan dalam skala besar tiba-tiba menjadi layak. Jika biaya menjalankan agen AI lebih rendah, perusahaan akan menerapkan ribuan, bukan ratusan. Asisten coding, pencarian, dukungan pelanggan — semua kasus penggunaan yang intensif inferensi akan meningkat skalanya.
Lebih banyak penggunaan = lebih banyak permintaan untuk GPU, memori, jaringan, pusat data, dan daya.
Meski harga token anjlok, harga sewa H100 tetap bertahan. Ini menunjukkan bahwa permintaan komputasi masih kuat meski efisiensi meningkat. Ya, dinamika pasokan dan generasi GPU yang lebih baru juga berpengaruh. Namun, ketahanan harga komputasi saat harga token turun? Itu sebuah sinyal.
Menurut saya, pasar meremehkan seberapa besar penggunaan AI tambahan yang akan dibuka oleh harga lebih rendah dalam beberapa tahun ke depan. Kita masih di tahap awal. Sebagian besar bisnis baru mulai mengintegrasikan AI ke dalam operasional sehari-hari.
Itulah mengapa saya lebih memilih pemasok infrastruktur daripada mencoba menebak penyedia model mana yang akan menang. Baik OpenAI, Anthropic, Google, maupun sumber terbuka — tetap ada pihak yang harus menyediakan komputasinya. Selama penggunaan AI tumbuh lebih cepat daripada efisiensi mengurangi kebutuhan komputasi, pembangunan infrastruktur akan terus berlanjut.
Optimistis terhadap komputasi, memori, jaringan, dan daya.