Biaya Sebenarnya dari Mengobrol: Mengapa ChatGPT Adalah Percakapan senilai $250 juta
Mari kita bicara tentang angka—angka yang besar. Seberapa besar? Cobalah $700.000 sehari. Itulah biaya yang harus dikeluarkan agar ChatGPT tetap aktif dan berjalan. 🤑
Menurut laporan SemiAnalysis, OpenAI menghabiskan sekitar $694.444 setiap hari di chatbot ini.
Dan jika Anda bukan penggemar matematika, izinkan saya menguraikannya untuk Anda: itu berarti $250 juta per tahun. Pelakunya? Chip yang haus kekuasaan.
Secara teknis, ChatGPT beroperasi pada sekitar 3,617 server HGX A100, yang totalnya mencapai 28,936 GPU. Ini bukan GPU gaming sehari-hari Anda; ini adalah monster beroktan tinggi dan berpusat pada kinerja.
Setiap kueri yang Anda ambil di ChatGPT berharga sekitar 0,36 sen. Mungkin kedengarannya tidak banyak, namun kalikan dengan jutaan pengguna, dan ini mulai masuk akal. Atau sen, jika Anda mau.
Sekarang, data ini adalah pra-GPT-4. Jadi, saat ini, biaya operasional kemungkinan besar sudah melonjak lebih tinggi. Dan inilah pemikirannya: Jika GPU semahal ini, apa strateginya di masa depan?
Masukkan Microsoft—investor terbesar OpenAI. Mereka mengembangkan chip mereka sendiri untuk mengurangi ketergantungan pada GPU Nvidia yang mahal.
Tapi jangan kehilangan semua harapan. Perusahaan investasi ARK mempunyai hikmah bagi kami. Menurut penurunan Hukum Biaya Wright, harga menjalankan model AI seperti ChatGPT akan anjlok seiring kemajuan teknologi.
Semoga saja prediksi tersebut benar karena, jika terus begini, kita memerlukan jubah superhero finansial untuk ChatGPT. 🦸♂️
Jadi, lain kali Anda meminta ChatGPT untuk menulis soneta atau menyelesaikan persamaan, ingatlah: seseorang, di suatu tempat, membayar mahal untuk puisi komputasi tersebut. 🤔
Mari kita bicara tentang angka—angka yang besar. Seberapa besar? Cobalah $700.000 sehari. Itulah biaya yang harus dikeluarkan agar ChatGPT tetap aktif dan berjalan. 🤑
Menurut laporan SemiAnalysis, OpenAI menghabiskan sekitar $694.444 setiap hari di chatbot ini.
Dan jika Anda bukan penggemar matematika, izinkan saya menguraikannya untuk Anda: itu berarti $250 juta per tahun. Pelakunya? Chip yang haus kekuasaan.
Secara teknis, ChatGPT beroperasi pada sekitar 3,617 server HGX A100, yang totalnya mencapai 28,936 GPU. Ini bukan GPU gaming sehari-hari Anda; ini adalah monster beroktan tinggi dan berpusat pada kinerja.
Setiap kueri yang Anda ambil di ChatGPT berharga sekitar 0,36 sen. Mungkin kedengarannya tidak banyak, namun kalikan dengan jutaan pengguna, dan ini mulai masuk akal. Atau sen, jika Anda mau.
Sekarang, data ini adalah pra-GPT-4. Jadi, saat ini, biaya operasional kemungkinan besar sudah melonjak lebih tinggi. Dan inilah pemikirannya: Jika GPU semahal ini, apa strateginya di masa depan?
Masukkan Microsoft—investor terbesar OpenAI. Mereka mengembangkan chip mereka sendiri untuk mengurangi ketergantungan pada GPU Nvidia yang mahal.
Tapi jangan kehilangan semua harapan. Perusahaan investasi ARK mempunyai hikmah bagi kami. Menurut penurunan Hukum Biaya Wright, harga menjalankan model AI seperti ChatGPT akan anjlok seiring kemajuan teknologi.
Semoga saja prediksi tersebut benar karena, jika terus begini, kita memerlukan jubah superhero finansial untuk ChatGPT. 🦸♂️
Jadi, lain kali Anda meminta ChatGPT untuk menulis soneta atau menyelesaikan persamaan, ingatlah: seseorang, di suatu tempat, membayar mahal untuk puisi komputasi tersebut. 🤔