Seseorang menghitung tagihan untuk penerapan model besar Microsoft: setiap pengguna akan membayar $20 per bulan

Sumber cetak ulang artikel: Heart of the Machine
 Dia tidak dapat memenuhi kebutuhan hidup dan bergantung sepenuhnya pada dukungan keuangan keluarganya.
Sumber gambar: Dihasilkan oleh AI Tanpa Batas
Orang-orang selalu menyebutkan bahwa implementasi model-model besar semakin cepat, namun hanya sedikit orang yang dapat melakukan penyelidikan mendalam terhadap biaya implementasi yang sebenarnya.
Situasi sebenarnya adalah bahkan raksasa teknologi dengan "sumber daya keuangan yang kaya" pun akan mengalami kesulitan karena mereka "tidak dapat memenuhi kebutuhan".
Saat ini, sebuah laporan di Wall Street Journal menunjukkan bahwa meskipun GitHub Copilot berharga $10 per bulan, Microsoft mengenakan biaya rata-rata lebih dari $20 per pengguna per bulan.
Hal ini menyoroti tantangan ekonomi yang serius dalam memberikan layanan AI, yang tidak hanya mahal untuk dibangun tetapi juga sangat mahal untuk dioperasikan. Dalam hal ini, analogi "Wall Street Journal" adalah: "Menggunakan (AI) untuk merangkum email seperti meminta Lamborghini mengantarkan pizza."
Mengapa Microsoft menderita "kerugian besar"?
Booming kecerdasan buatan telah mendatangkan keuntungan besar bagi banyak perusahaan selama setahun terakhir. Misalnya, NVIDIA adalah salah satu perusahaan paling menguntungkan. Chip AI seperti Nvidia H100 adalah salah satu sumber daya paling berharga di bidang teknologi saat ini karena sangat penting untuk melatih model bahasa besar seperti ChatGPT.
Mengingat fakta bahwa permintaan GPU NVIDIA di pusat data banyak perusahaan teknologi, termasuk Microsoft, telah meningkat secara signifikan pada tahun 2023, yang membawa keuntungan besar dan lonjakan stok bagi NVIDIA. Hal ini juga membuat masalah kekurangan chip menjadi lebih serius dan secara tidak langsung meningkatkan biaya pengoperasian model besar.
Pada saat yang sama, Microsoft telah bekerja keras untuk menghasilkan uang dari layanan AI, tetapi prosesnya tidak mulus. Misalnya, salah satu layanan AI generatif pertamanya, GitHub Copilot, menyebabkan kerugian besar bagi Microsoft.
GitHub Copilot pertama kali diluncurkan pada Juni 2022, memungkinkan pengembang memiliki asisten Copilot AI yang membantu mengkodekan aplikasi dan layanan mereka. Layanan ini dihargai $10 per bulan atau $100 per tahun, dan GitHub Copilot gratis untuk pelajar terverifikasi dan pemilik proyek sumber terbuka yang sudah mapan.
Salah satu sumber mengatakan bahwa berdasarkan data dari beberapa bulan pertama tahun ini, Microsoft rata-rata memberikan potongan harga lebih dari $20 per pengguna per bulan, dengan beberapa pengguna mengeluarkan biaya sebesar $80 per bulan.
Microsoft berencana meluncurkan Microsoft 365 Copilot untuk pengguna perusahaan pada 1 November. Layanan AI ini akan membantu pengguna menggunakan aplikasi produktivitas perusahaan seperti Word, PowerPoint, Excel, Outlook, dll., dan akan dihargai $30 per pengguna per bulan.
Microsoft telah mencari cara yang lebih ekonomis untuk menjalankan layanan AI-nya, dan salah satunya adalah dengan membuat chip AI sendiri daripada membelinya dari Nvidia.
Mengembangkan chip AI adalah proses yang mahal dan memakan waktu. Pada awal April tahun ini, terdapat kabar bahwa Microsoft sedang mengembangkan chip server AI dengan nama kode "Athena", dan pengembangan chip tersebut dimulai sekitar tahun 2019. Microsoft berharap Athena akan menyaingi H100 Nvidia, dan Athena sedang diuji oleh tim di Microsoft dan OpenAI.
Beberapa laporan terbaru menunjukkan bahwa Microsoft akan secara resmi mengumumkan chip AI tersebut pada konferensi Ignite pada 14 November.
Selain itu, ada laporan bahwa Microsoft sedang mencoba mengurangi ketergantungannya pada OpenAI dengan mengembangkan model bahasanya yang besar, dan mengingat meningkatnya biaya pengoperasian, Microsoft meminta para peneliti untuk membangun alternatif yang lebih kecil dan lebih murah dibandingkan model GPT OpenAI.
Tampaknya cara terbaik untuk menghasilkan uang di bidang AI bukanlah dengan membuat model besar, tetapi membuat chip atau pusat data yang dapat diandalkan untuk dijalankan oleh model besar. Ini adalah metode yang sama dan terbukti benar dalam demam emas apa pun: cukup jual sekop.
Pertumbuhan pendapatan ChatGPT melambat
Pada saat yang sama, OpenAI juga menghadapi perlambatan pertumbuhan pendapatan.
Ada kabar baik dan buruk baru-baru ini untuk bisnis seluler OpenAI. Di satu sisi, pemasangan aplikasi dan pendapatan ChatGPT terus tumbuh, mencetak rekor baru pada bulan September: 15,6 juta unduhan aplikasi iOS dan Android di seluruh dunia, dengan total pendapatan mencapai $4,58 juta.
Pertumbuhan pendapatan berasal dari layanan berlangganan ChatGPT+, yang menawarkan waktu respons lebih cepat, akses prioritas selama periode sibuk, dan akses awal ke fitur dan penyempurnaan baru, meskipun harga pembelian dalam aplikasinya mahal sebesar $19,99 per bulan.
Total pendapatan ChatGPT adalah $2,1 juta di bulan Juni, meningkat menjadi $2,74 juta di bulan Juli, $3,81 juta di bulan Agustus, dan rekor terbarunya sebesar $4,58 juta di bulan September.
Namun, pertumbuhan pendapatannya mulai melambat, menurut data terbaru dari firma intelijen pasar Appfigures. Pertumbuhan pendapatan perusahaan telah berada di atas 30% selama beberapa bulan terakhir (31% pada bulan Juli dan 39% pada bulan Agustus), namun pada bulan September, pertumbuhan tersebut telah melambat menjadi 20%. Melambatnya pertumbuhan pendapatan bisa menjadi tanda pertama bahwa ChatGPT mendekati kejenuhan.
Anehnya, meski popularitasnya tersebar luas, ChatGPT bukanlah aplikasi AI yang menghasilkan pendapatan terbesar. Data dari Appfigures menunjukkan bahwa produk pesaing bernama Ask AI telah memperoleh lebih banyak pendapatan berdasarkan jumlah iklan yang besar, meningkat dari US$6,48 juta pada bulan Mei ketika versi seluler ChatGPT diluncurkan menjadi US$6,55 juta pada bulan Agustus,9 Pendapatan tersebut turun sedikit pada bulan Agustus. bulan menjadi $5,51 juta, namun angka ini masih lebih tinggi dibandingkan pendapatan ChatGPT.
Tentu saja, pendapatan bersih mungkin menjadi cerita lain mengingat belanja iklan Ask AI. Adapun ChatGPT, menghasilkan sekitar $3,2 juta pada bulan September setelah Apple dan Google mengambil potongan pendapatan pembelian dalam aplikasi.
Selain rekor pendapatannya, ChatGPT juga memperoleh 15,6 juta penginstalan pada bulan September, sehingga totalnya menjadi 52,2 juta, menurut perkiraan Appfigures. Google Play mendorong pertumbuhan unduhan, dengan 9 juta unduhan pada bulan September, dibandingkan dengan 6,6 juta unduhan dari App Store.
Tautan referensi:
https://www.neowin.net/news/microsoft-reportedly-is-losing-lots-of-money-per-user-on-github-copilot/
https://techcrunch.com/2023/10/09/chatgpts-mobile-app-hit-record-4-58m-in-revenue-last-month-but-growth-is-slowing/