Perusahaan-perusahaan AS mulai mempertimbangkan untuk lebih serius membuka model OpenAI. Dalam sebuah wawancara, Chief Data dan petugas AI AT&T mengatakan bahwa porsi penggunaan model terbuka perusahaan naik dari 20% pada bulan Mei menjadi 40%. Biaya AI bisa menghemat hingga 80% dibandingkan awal tahun. Ini adalah klaim dari perusahaan yang diwawancarai sendiri, dan bukan diskon yang bisa didapat setiap perusahaan setelah bermigrasi.
Hal ini tidak hanya berdampak pada segelintir insinyur. Tim layanan pelanggan, tim hukum, tim pemasaran, tim data, serta para manajer yang harus mengintegrasikan AI ke dalam proses kerja harian, semuanya perlu menghitung ulang. Selain bertanya “model mana yang paling cerdas”, seharusnya juga bertanya: “untuk pekerjaan yang sama, berapa biayanya, seberapa cepat selesai, dan jika terjadi kesalahan siapa yang memperbaiki?”
Yang paling perlu dicek pembaca sekarang bukan peringkat model tertentu di daftar, melainkan empat hal ini: apakah biaya pemanggilan atau perangkat keras benar-benar turun; apakah integrasi dan operasional jadi lebih ringan; apakah kerja ulang dan verifikasi ulang oleh manusia bertambah; dan jika ada masalah keamanan serta izin, siapa yang bertanggung jawab sebagai penyangga. Jika “murah” hanya murah di halaman pertama tagihan, itu bukan menurunkan biaya—itu hanya memindahkan tempat biaya dikeluarkan.
[Murah—tentu ada daya tariknya]
Perusahaan suka menghemat uang—tidak perlu berpura-pura terdengar mendalam.
Daya tarik model terbuka sangat jelas: bobot bisa didapat, cara deploy lebih fleksibel, sehingga perusahaan bisa menaruh sebagian tugas di lingkungan yang lebih bisa dikendalikan. Untuk tugas skala besar, frekuensi tinggi, dan formatnya stabil, lebih layak diuji apakah ada keunggulan biaya. Misalnya, setiap hari ribuan bahkan jutaan ringkasan percakapan layanan pelanggan, pengelompokan dokumen internal, ekstraksi informasi dengan format tetap—selama batas tugas jelas, model tidak harus menulis artikel yang mengagumkan setiap kali; bisa bekerja secara stabil itu bernilai.
Kasus AT&T yang dibahas di sini juga karena hal ini. Eksekutif yang diwawancarai mengatakan perusahaan menggunakan Gemma dan Llama. Angka “80%” memang menarik perhatian, tapi yang lebih pantas dilihat bukan “80%”-nya sendiri, melainkan prasyarat di baliknya: apakah tugasnya cocok? apakah alurnya matang? apakah ada kemampuan rekayasa yang cukup untuk mengintegrasikan model ke dalam bisnis?
Yang dibutuhkan perusahaan adalah pengiriman yang berkelanjutan: kesalahan bisa ditelusuri, saat puncak bisa ditanggung, karyawan bisa menanganinya, dan masalah pelanggan bisa diselesaikan.
[Terbuka, tidak berarti boleh dipakai sembarangan]
Ada satu kata yang paling mudah membingungkan di sini: terbuka.
Bobot terbuka tidak berarti sumber terbuka sepenuhnya. Bisa diunduh parameternya tidak berarti data pelatihan, kode, kondisi modifikasi, dan batas penggunaan komersial semuanya terbuka di meja. Yang benar-benar memengaruhi keputusan perusahaan bukan cuma “bisa didapat atau tidak”, tapi juga “bisa dipakai secara legal, bisa dimodifikasi secara stabil, dan bisa dipelihara dalam jangka panjang”.
Perusahaan perlu memeriksa satu per satu lisensi model, syarat penggunaan, dan rencana pemeliharaan berikutnya. Konten dan izin yang dibuka untuk model berbeda bisa berbeda; tidak bisa menyimpulkan semua yang tersedia hanya dari satu label “terbuka”.
Yang lebih penting: jangan langsung menyamakan model terbuka dengan model dari negara tertentu, dan jangan menganggapnya sebagai satu kubu. Terbuka adalah kombinasi status teknis dan status lisensi, bukan label geopolitik. Yang benar-benar peduli perusahaan adalah: apakah model ini bisa menyelesaikan tugas saya, apakah biaya bisa dikendalikan, apakah risiko bisa dijelaskan.
Pengguna biasa mungkin merasa ini semua jauh dari mereka. Padahal tidak. Saat Anda menelepon layanan pelanggan, apakah rangkumannya akurat atau tidak; saat Anda mengirim dokumen, apakah sistem salah menilai atau tidak; saat naskah pemasaran terasa makin mirip lini produksi—semuanya bisa jadi hasil dari pilihan model.
Perusahaan menghemat uang, yang dirasakan pengguna adalah kualitas layanan.
[Biaya sejati tersembunyi di kerja ulang]
Total biaya satu tugas AI bisa dibagi secara kasar menjadi empat bagian: biaya pemanggilan atau perangkat keras, integrasi dan operasional, kerja ulang karena percobaan ulang, dan verifikasi ulang oleh manusia.
Bagian pertama paling mudah terlihat. Di tagihan ada angkanya, server ada harga, tim keuangan bisa menangkapnya langsung.
Mulai bagian kedua jadi lebih rumit. Jika model terbuka di-deploy sendiri, harus ada orang yang mengurus mesin, ekspansi kapasitas, versi, dan pemantauan. Menyewa/menitipkan model terbuka juga tidak gratis: perangkat keras, durasi runtime, duplikasi untuk ekspansi tetap butuh biaya. Mengunduh bobot tidak membuat biaya menjadi nol. Deploy sendiri, menyewa instance khusus, atau memanggil lewat interface terkelola: struktur tagihan berbeda, dan pemeliharaan rekayasa juga perlu diperhitungkan.
Bagian ketiga paling menguras. Bayangkan satu set tugas ringkasan untuk layanan pelanggan: skema A biaya lebih tinggi, tapi sebagian besar ringkasan lulus verifikasi; skema B biayanya lebih rendah, namun karyawan harus mendengarkan ulang rekaman dan melengkapi permintaan kunci. Asumsi ini tidak ditujukan untuk perusahaan tertentu, dan juga tidak mengandaikan model terbuka atau tertutup mana yang lebih akurat. Ini mengingatkan kita bahwa hanya dengan mencatat waktu revisi, kita bisa tahu apakah biaya penawaran yang lebih rendah benar-benar tertutupi oleh kerja ulang.
Bagian keempat paling mudah diremehkan oleh manajemen. Verifikasi ulang oleh manusia bukan sekadar menekan tombol; ia menghabiskan perhatian. Satu orang menatap kesalahan mesin terlalu lama akan lelah, jadi kebal, dan membiarkan masalah yang jelas. AI tidak hanya berlomba dengan server; ia juga berlomba dengan kesabaran manusia.
Jadi “murah” harus ditanya sampai tuntas: murah setiap kali memanggil, atau murah setiap kali pengiriman yang memenuhi syarat?
Dua pertanyaan ini bedanya jauh.
[Keamanan tidak selesai hanya karena “di lokal”]
Banyak perusahaan mengatakan model terbuka lebih bisa dikendalikan, bisa di-deploy secara lokal, dan datanya lebih aman.
Arah ini ada benarnya, tapi tidak boleh malas.
Keamanan tidak otomatis terwujud hanya karena dua kata “di lokal”. Apakah autentikasi akses sudah dilakukan dengan baik? Apakah isolasi jaringan sudah jelas? Bagaimana memproses data sensitif? Apakah log disimpan? Siapa yang bisa memanggil model, siapa yang bisa melihat output, dan siapa yang bisa mengekspor hasil? Jika pertanyaan-pertanyaan ini belum beres, menaruh model di mana pun tetap tidak terasa aman.
Semakin dalam model masuk ke proses bisnis, semakin rinci izin yang harus diatur. Apakah data dikirim ke pihak ketiga, bagaimana cara penyimpanannya, siapa yang bisa menghapusnya—harus diverifikasi satu per satu berdasarkan skema deploy dan kesepakatan layanan yang sebenarnya.
Ada masalah realistis lain: model terbuka lebih fleksibel, tapi juga lebih menguji manajemen. Versi berganti, output ikut berubah; pihak bisnis mungkin tidak mengetahuinya pada waktu pertama. Prompt diganti, akurasi berfluktuasi, tim layanan pelanggan duluan kena omelan. Keamanan bukan cuma untuk mencegah orang luar, tapi juga mencegah alur internal jadi kacau.
Cara yang benar-benar matang bagi perusahaan bukan sekadar menyerukan “kita pakai model terbuka”, melainkan menganggap model sebagai jalur produksi: ada pintu masuk, ada quality control, ada monitoring, ada fallback.
Fallback berarti ketika performa versi baru tidak stabil, bisa kembali ke alur lama atau ditangani secara manual. Ini perlu dirancang dari awal, tidak boleh menunggu sampai bisnis terganggu baru mencari solusi sementara.
[Tugas apa yang cocok untuk migrasi]
Tidak semua tugas seharusnya dipindahkan ke model terbuka.
Tugas frekuensi rendah belum tentu layak dideploy khusus satu paket layanan: apakah tetap ditagih saat mesin menganggur, apakah staf pemeliharaan punya waktu luang, semuanya akan memengaruhi hasil. Untuk tugas yang tanggung jawabnya berat dan ruang toleransinya kecil, lebih perlu pengujian penerimaan yang ketat serta verifikasi ulang oleh manusia.
Tugas yang frekuensinya tinggi, terstandarisasi, dan bisa diverifikasi—lebih cocok dicoba. Ringkasan layanan pelanggan, pengelompokan tiket/servis, ekstraksi data dengan field tetap, tanya jawab berbasis knowledge base internal: jika standar kelulusannya bisa didefinisikan dengan jelas, Anda bisa mencocokkan pada skala kecil. Ambil batch tugas yang sama, jalankan beberapa model sekaligus, lalu bandingkan tingkat penyelesaian, waktu modifikasi oleh manusia, latensi respons, dan kestabilan pada puncak.
Jangan dengar cerita—lihat verifikasi/penerimaannya.
Rencana AI perusahaan yang benar-benar berguna belum tentu modelnya paling pintar, melainkan yang paling sedikit membutuhkan perbaikan ulang oleh manusia. Mungkin jawabannya tidak terlalu bagus, tapi formatnya stabil; mungkin tidak pandai membuat kutipan-kalimat keren, tapi bisa menangkap nomor pesanan, alasan keluhan, dan saran penanganan secara lengkap. Untuk perusahaan, itu sudah cukup berharga.
Dunia teknologi suka membahas batas atas, sementara bagian bisnis lebih peduli batas bawah. Batas atas menentukan kejutan; batas bawah menentukan apakah bisa benar-benar dipakai bekerja.
[Yang berikutnya tinggal dilihat hal-hal ini]
Berdasarkan kasus ini, saya lebih peduli pada dua hal: apakah biaya bisa terus turun, dan apakah perusahaan memperoleh ruang deploy serta modifikasi yang lebih sesuai untuk kebutuhan sendiri.
Salah satu cara yang layak diverifikasi adalah membagi model berdasarkan tugas, bukan hanya memilih satu untuk seluruh perusahaan. Beri beberapa kandidat solusi menangani sampel yang sama, lalu putuskan pembagian kerja berdasarkan tingkat kelulusan, biaya, latensi, dan beban pemeliharaan. Kompleksitas tugas yang mirip pun bisa menghasilkan hasil berbeda karena perbedaan data dan persyaratan verifikasi/penerimaan.
Berikutnya, yang paling perlu dilihat bukan karena ada perusahaan lain yang mengumumkan lagi “merangkul OpenAI secara menyeluruh”. Ucapan seperti itu terdengar ramai, tapi kurang tegas. Indikator yang lebih tegas ada empat.
Pertama, apakah biaya pengiriman/penyerahan yang memenuhi syarat untuk tugas yang sama turun. Kedua, apakah waktu verifikasi ulang oleh manusia berkurang, bukan dialihkan ke karyawan lini depan. Ketiga, apakah respons stabil pada lonjakan trafik puncak. Keempat, apakah lisensi, keamanan, izin, dan alur pemrosesan data bisa lolos audit internal.
Jika empat indikator ini bisa dipertahankan, model terbuka tidak hanya alat hemat biaya, melainkan bagian dari infrastruktur AI perusahaan.
Kalau tidak bisa dipertahankan, itu adalah bentuk lain dari biaya untuk coba-coba.
Hal paling menarik dari perubahan teknologi justru bukan kata-kata besar yang berterbangan, melainkan akhirnya jatuh ke hal kecil dalam kehidupan sehari-hari: apakah layanan pelanggan jadi lebih tidak asal-asalan, apakah tagihan bertambah sedikit lebih sedikit, apakah karyawan menambah jam kerja lebih sedikit, apakah pengguna punya sedikit lebih banyak kepercayaan.
Persaingan AI, di permukaan adalah persaingan model dengan model.
Kalau melihat lebih dalam, siapa yang bisa mengubah kepintaran menjadi stabil, mengubah murah menjadi bisa dipakai, mengubah gaya pamer menjadi hidangan yang tepat waktu di meja makan.
Hanya untuk riset dan pembelajaran, tidak merupakan nasihat investasi.