Meta bertujuan mengurangi biaya pengoperasian agen AI. Pada 9 November, perusahaan tersebut merilis Muse Ember, model ringan yang dirancang untuk mengerjakan tugas-tugas berulang yang menyibukkan agen AI. Tidak seperti model lain, Ember tidak ditujukan untuk menyelesaikan tugas rumit, melainkan berfokus pada pekerjaan rutin dengan biaya serendah mungkin.

Dirancang untuk menangani volume pekerjaan, sementara Muse Wonder membuat rencana

Meta membuat Ember untuk menangani pekerjaan rutin yang membuat agen AI terus berjalan. Model ini dapat memanggil perangkat lunak lain, mengarahkan permintaan ke sistem yang tepat, mengekstrak informasi dari dokumen, dan memproses berkas yang panjang. Ember juga dapat menangani tugas pemrograman yang lebih kecil, seperti menjalankan pengujian dan melakukan perbaikan terarah.

Untuk mengambil keputusan yang lebih kompleks, Meta menggunakan kombinasi Muse Wonder, model penalaran unggul, dan Ember. Wonder menentukan cara menangani tugas, sementara Ember menjalankan tindakan-tindakan kecil yang diperlukan untuk menyelesaikan tugas tersebut. Menurut Meta:

“Muse Wonder menyusun rencana, Muse Ember menangani volume pekerjaan.”

Ember adalah iterasi keempat dalam jajaran Muse, setelah Muse Spark, Muse Glimmer, dan Muse Wonder. Pengembang dapat mengaksesnya melalui Meta Model API dan Muse Code. Dengan skema harganya, Meta mengenakan biaya $0.1 per satu juta token input, serta $0.004 per satu juta token input yang tersimpan dalam cache dan $0.5 per satu juta token output.

Ember dilengkapi jendela konteks satu juta token yang memungkinkannya memproses dokumen dan basis kode yang lebih besar. Ember juga mampu menangani gambar, audio, dan video.

Temuan Artificial Analysis saat menguji klaim tersebut

Pengujian independen menunjukkan dengan jelas seberapa besar keunggulan biaya Ember. Menurut Artificial Analysis, skor Intelligence Index Ember sebesar 36 sama dengan skor Claude Haiku 5.5. Namun, biaya Ember hanya $0.14 per tugas tolok ukur, sementara Claude Haiku berbiaya $0.41. Angka yang dikutip merupakan perkiraan biaya pengujian, bukan biaya tetap yang dibayarkan pelanggan. Selain itu, Ember meraih skor 68.1% pada AutomationBench-AA, setara dengan model Meta yang lebih mumpuni, Muse Wonder.

Namun, hasil pengujian kemampuan pemrogramannya tidak konsisten. Ember mengungguli Haiku di Terminal-Bench 4.0 dengan skor masing-masing 40.9% dan 32.8%. Akan tetapi, Haiku mengungguli Ember di FrontierCode 2.0, dengan skor masing-masing 34.9% dan 27.2%.

Pengetahuan umum juga menjadi salah satu kelemahan Ember. Model ini hanya memperoleh akurasi 21.1% di AA-Omniscience dan melewatkan 64% pertanyaan tanpa menjawab. Berkat sikapnya yang berhati-hati, Ember mampu mempertahankan skor halusinasi di angka 17.4%.

Tugas Agen Meta Muse Ember seharga $0.14: Biaya dan Performa vs. Claude Haiku 5.5

Mengapa biaya per tugas menjadi pertarungan penting saat ini

Harga Ember yang lebih rendah hadir saat perusahaan sedang meninjau kembali pengeluaran mereka untuk teknologi AI. Gartner memperkirakan permintaan terhadap agen dan asisten AI akan mendorong pengeluaran menjadi $29.2 miliar pada 2026 dan menjadi bagian dari proyeksi pasar AI senilai $2.7 triliun. Seiring meningkatnya penggunaan teknologi AI, BCG mendorong perusahaan perangkat lunak untuk mempertimbangkan penagihan berdasarkan tugas atau hasil yang diselesaikan, alih-alih hanya berdasarkan jumlah pengguna berlisensi. Namun, BCG mengingatkan agar perusahaan tidak terlalu cepat meninggalkan skema langganan tradisional.

Pertanyaan yang lebih besar adalah apakah AI yang lebih murah memberikan hasil yang lebih baik. McKinsey berpendapat bahwa biaya token saja tidak cukup untuk mengukur nilai bisnis. Harga yang lebih rendah juga dapat mendorong perusahaan untuk menggunakan lebih banyak AI. IDC menemukan bahwa 67% perusahaan melampaui anggaran agen mereka. Perusahaan riset tersebut memperkirakan biaya per tindakan agen akan turun 95% pada 2030, meskipun total biaya pengiriman token meningkat 487 kali lipat.

Pertanyaan tentang ROI, keandalan, dan pengawasan

Mitra awal Meta menyoroti kecepatan Ember. CTO Cloudflare, Dane Knecht, mengatakan bahwa model tersebut berjalan:

“hingga 30% lebih cepat”

Pemimpin inferensi You.com, Chak Pothina, melaporkan:

“p95 sebesar 2.2 detik”

Eksekutif Box, Yashodha Bhavnani, mengatakan Ember dapat menilai kontrak:

“dengan membandingkan setiap klausul dengan panduan negosiasi perusahaan”

Hasil ini menjanjikan, tetapi berasal dari pengujian oleh mitra. Perusahaan tetap perlu menilai performa Ember dalam operasional mereka sendiri.

Keandalan juga mencakup lebih dari sekadar kecepatan. FII Institute mengutip temuan survei yang menunjukkan bahwa 73% responden mengkhawatirkan privasi dan keamanan data AI. Sementara itu, survei McKinsey menemukan bahwa hanya sekitar 30% organisasi yang mencapai tingkat kematangan lebih tinggi dalam tata kelola AI agentik.

Tekanan biaya tidak hanya berasal dari model itu sendiri. Penjualan obligasi Meta senilai $15 miliar baru-baru ini menyoroti besarnya biaya pembangunan infrastruktur AI. Cryptopolitan juga telah melaporkan investasi pusat data Meta yang terus berkembang.

Jika Anda membaca ini, berarti Anda sudah selangkah lebih maju. Tetaplah unggul dengan buletin kami.