Sebuah perusahaan China mengatakan model barunya memangkas biaya penggunaan hingga 70%. Namun, jika melihat daftar harganya, harga per satu juta token hanya dipangkas separuh. Sisa 20% itu tersembunyi di kolom cache.
Pada 19 Oktober, MiniMax meluncurkan M3.1 Flash. Model ini memakai arsitektur mixture-of-experts dengan 428 miliar parameter, tetapi hanya mengaktifkan 23 miliar parameter dalam sekali jalan. Jendela konteksnya satu juta token, dan bisa langsung memproses gambar serta video. Semua angka ini berasal dari klaim mereka sendiri; belum ada pihak luar yang mereplikasinya.
Daftar harganya memang jelas. Satu juta token input: 0,15 dolar. Output: 0,6 dolar. Input yang dibaca dari cache: 0,015 dolar. Generasi sebelumnya, M3, harganya 0,3 dan 1,2 dolar. Jadi, harga per satuannya memang tinggal separuh.
Dalam siaran pers resminya, mereka menulis bahwa biaya turun 70%. Selisih 20 poin itu tidak ada di harga. Sama sekali tidak ada.
Aku memikirkannya sampai larut malam. 0,15 dan 0,015 dolar, bedanya sepuluh kali lipat. Celahnya cukup besar. Siapa pun yang pernah menjalankan agent tahu, bagian yang benar-benar menghabiskan uang dalam satu tugas adalah konteks yang harus dimasukkan ulang di setiap putaran: basis kode, definisi alat, log dari belasan langkah sebelumnya. Semua itu disuapkan berulang kali tanpa perubahan satu kata pun, tetapi tetap dibayar dengan tarif penuh.
Harga cache memisahkannya dan mengenakan tarif sepersepuluh. Begitulah total tagihannya turun. Harga per satuan turun 50%, total tagihan turun 70%. Kedua angka itu benar, tetapi sama sekali bukan membicarakan hal yang sama. Dua hal berbeda.
Vendor tidak berbohong saat mengklaim biaya turun 70%. Masalahnya muncul ketika pembaca mengartikannya sebagai harga yang lebih murah. Yang menjadi lebih murah adalah harga per satuan; yang dihemat adalah biaya untuk hal-hal yang berulang.
Ethereum melakukan hal serupa bertahun-tahun lalu. Dalam upgrade Istanbul pada 2019, biaya gas per byte untuk data yang dibawa dalam sebuah transaksi diturunkan dari 68 menjadi 16. Alasannya sederhana: byte-byte ini perlu disimpan selamanya, tetapi tidak perlu dieksekusi berulang kali oleh setiap node. Lalu, dalam upgrade Cancun pada 2024, data rollup mendapat jalurnya sendiri: setiap blob berukuran 128 KB, dengan tarif yang dihitung terpisah dari gas eksekusi, bisa naik dan turun sendiri. Byte yang sama masuk ke dua keranjang berbeda, dan harganya bisa terpaut puluhan kali lipat.
Di sepanjang proses itu, tak ada yang berteriak bahwa harganya lebih murah. Tak ada yang bilang biaya turun sekian persen. Yang diubah hanya dasar penghitungan biayanya. Hasilnya sama saja. Begitulah.
Jadi, dari mana sebenarnya penghematan 70% itu berasal?
Sederhananya, mereka mengenali bagian yang dibaca berulang kali dalam skenario agent, lalu memberinya tarif sepersepuluh. Siapa pun yang bisa mengenali bagian mana dari bisnisnya yang berulang, akan mendapatkan diskon itu. Yang tak bisa mengenalinya, tetap membayar tarif penuh, tanpa potongan sedikit pun. Sesederhana itu.
Hasilnya, mereka berani menulis di siaran pers bahwa biaya per tugas kurang dari lima sen. Jika dijual per token, pelanggan bisa menghitungnya dengan kalkulator. Jika dijual per tugas, pelanggan tak bisa membandingkannya. Mereka menjalankan sendiri evaluasi yang terdiri dari 152 soal, dengan tagihan 111 dolar. Angka ini bisa diverifikasi; angka lainnya tak ada yang repot-repot memeriksa.
Masih ada beberapa hal yang belum jelas. Bobot model katanya akan dirilis tanggal 23, tetapi lisensinya sama sekali tidak disebutkan. Semua skor benchmark berasal dari klaim mereka sendiri, tanpa replikasi pihak ketiga. Skor DeepSWE mereka 73,7, sedangkan DeepSeek V4.1 Flash mendapat 74,2, unggul setengah poin. Dalam pengujian terminal, skornya 38,1; Opus 5 unggul 13,7 poin. Semua ini mereka cantumkan sendiri di tabel. Mereka memang tidak menyembunyikannya.
Ada satu hal lagi: penalarannya tidak bisa dimatikan. Bahkan untuk pertanyaan sederhana, model tetap harus berpikir dulu. Di balik uang yang dihemat, ada tagihan lain yang tersembunyi. Siapa yang membayarnya? Belum ada jawaban pasti.
Kalau kamu sedang menjalankan agent, jangan dulu terpaku pada harga per satuan. Periksa berapa banyak hal yang tidak berubah tetapi tetap kamu masukkan ke konteks di setiap putaran. Bagian itulah yang bisa dipangkas.
Uang untuk bagian itu selalu ada di tagihan.
$BTC $ARB $TAO
#AI #大模型 #以太坊 #比特币 #penguranganbiaya
Pada 19 Oktober, MiniMax meluncurkan M3.1 Flash. Model ini memakai arsitektur mixture-of-experts dengan 428 miliar parameter, tetapi hanya mengaktifkan 23 miliar parameter dalam sekali jalan. Jendela konteksnya satu juta token, dan bisa langsung memproses gambar serta video. Semua angka ini berasal dari klaim mereka sendiri; belum ada pihak luar yang mereplikasinya.
Daftar harganya memang jelas. Satu juta token input: 0,15 dolar. Output: 0,6 dolar. Input yang dibaca dari cache: 0,015 dolar. Generasi sebelumnya, M3, harganya 0,3 dan 1,2 dolar. Jadi, harga per satuannya memang tinggal separuh.
Dalam siaran pers resminya, mereka menulis bahwa biaya turun 70%. Selisih 20 poin itu tidak ada di harga. Sama sekali tidak ada.
Aku memikirkannya sampai larut malam. 0,15 dan 0,015 dolar, bedanya sepuluh kali lipat. Celahnya cukup besar. Siapa pun yang pernah menjalankan agent tahu, bagian yang benar-benar menghabiskan uang dalam satu tugas adalah konteks yang harus dimasukkan ulang di setiap putaran: basis kode, definisi alat, log dari belasan langkah sebelumnya. Semua itu disuapkan berulang kali tanpa perubahan satu kata pun, tetapi tetap dibayar dengan tarif penuh.
Harga cache memisahkannya dan mengenakan tarif sepersepuluh. Begitulah total tagihannya turun. Harga per satuan turun 50%, total tagihan turun 70%. Kedua angka itu benar, tetapi sama sekali bukan membicarakan hal yang sama. Dua hal berbeda.
Vendor tidak berbohong saat mengklaim biaya turun 70%. Masalahnya muncul ketika pembaca mengartikannya sebagai harga yang lebih murah. Yang menjadi lebih murah adalah harga per satuan; yang dihemat adalah biaya untuk hal-hal yang berulang.
Ethereum melakukan hal serupa bertahun-tahun lalu. Dalam upgrade Istanbul pada 2019, biaya gas per byte untuk data yang dibawa dalam sebuah transaksi diturunkan dari 68 menjadi 16. Alasannya sederhana: byte-byte ini perlu disimpan selamanya, tetapi tidak perlu dieksekusi berulang kali oleh setiap node. Lalu, dalam upgrade Cancun pada 2024, data rollup mendapat jalurnya sendiri: setiap blob berukuran 128 KB, dengan tarif yang dihitung terpisah dari gas eksekusi, bisa naik dan turun sendiri. Byte yang sama masuk ke dua keranjang berbeda, dan harganya bisa terpaut puluhan kali lipat.
Di sepanjang proses itu, tak ada yang berteriak bahwa harganya lebih murah. Tak ada yang bilang biaya turun sekian persen. Yang diubah hanya dasar penghitungan biayanya. Hasilnya sama saja. Begitulah.
Jadi, dari mana sebenarnya penghematan 70% itu berasal?
Sederhananya, mereka mengenali bagian yang dibaca berulang kali dalam skenario agent, lalu memberinya tarif sepersepuluh. Siapa pun yang bisa mengenali bagian mana dari bisnisnya yang berulang, akan mendapatkan diskon itu. Yang tak bisa mengenalinya, tetap membayar tarif penuh, tanpa potongan sedikit pun. Sesederhana itu.
Hasilnya, mereka berani menulis di siaran pers bahwa biaya per tugas kurang dari lima sen. Jika dijual per token, pelanggan bisa menghitungnya dengan kalkulator. Jika dijual per tugas, pelanggan tak bisa membandingkannya. Mereka menjalankan sendiri evaluasi yang terdiri dari 152 soal, dengan tagihan 111 dolar. Angka ini bisa diverifikasi; angka lainnya tak ada yang repot-repot memeriksa.
Masih ada beberapa hal yang belum jelas. Bobot model katanya akan dirilis tanggal 23, tetapi lisensinya sama sekali tidak disebutkan. Semua skor benchmark berasal dari klaim mereka sendiri, tanpa replikasi pihak ketiga. Skor DeepSWE mereka 73,7, sedangkan DeepSeek V4.1 Flash mendapat 74,2, unggul setengah poin. Dalam pengujian terminal, skornya 38,1; Opus 5 unggul 13,7 poin. Semua ini mereka cantumkan sendiri di tabel. Mereka memang tidak menyembunyikannya.
Ada satu hal lagi: penalarannya tidak bisa dimatikan. Bahkan untuk pertanyaan sederhana, model tetap harus berpikir dulu. Di balik uang yang dihemat, ada tagihan lain yang tersembunyi. Siapa yang membayarnya? Belum ada jawaban pasti.
Kalau kamu sedang menjalankan agent, jangan dulu terpaku pada harga per satuan. Periksa berapa banyak hal yang tidak berubah tetapi tetap kamu masukkan ke konteks di setiap putaran. Bagian itulah yang bisa dipangkas.
Uang untuk bagian itu selalu ada di tagihan.
$BTC $ARB $TAO
#AI #大模型 #以太坊 #比特币 #penguranganbiaya