Saya menggunakan AI selama dua tahun terakhir, dan hal yang paling membuat saya sesak, adalah jawaban yang tidak pernah bisa saya verifikasi. Sampai saya melihat OpenGradient yang mampu menyertakan bukti kriptografi setiap kali inferensi dilakukan—baru saya merasa akhirnya ada yang berani membongkar “kotak hitam” ini.
Saya benar-benar merasakannya. Beberapa waktu lalu saya memakai salah satu model arus utama untuk mencari jawaban sesuai standar kepatuhan. Jawabannya terdengar sangat masuk akal. Lalu saya cek beberapa kutipan: dari tiga kutipan, dua di antaranya ternyata dibuat sendiri oleh model itu. Saat saya ganti nomor lalu bertanya dengan kalimat yang sama, jawabannya berubah. Model itu diam-diam diganti atau tidak—mereka tidak memberi tahu saya.
Lubang “kotak hitam” ini bukan cuma soal privasi, tetapi juga soal apakah jawaban yang Anda terima benar-benar dijalankan di lingkungan yang Anda kira. $RE
Kalau saya beri analogi lintas bidang: AI arus utama seperti taksi tanpa kamera dasbor; apakah sopir memutar rute atau tidak, Anda hanya bisa menebak setelah kejadian. Dengan kamera dasbor terpasang, setiap kilometer bisa ditelusuri kembali.
OpenGradient melakukan hal yang sama: memasang “kamera dasbor” pada AI. Setiap kali inferensi dilakukan, sistem menyertakan bukti kriptografi. Siapa pun bisa memverifikasi secara independen: pihaknya, model yang digunakan, jenis lingkungan, dan output apa yang dihasilkan. Tidak perlu percaya omongan pabrikan.
Dulu saya mengira verifikasi hanyalah kebiasaan perfeksionis para insinyur—tidak ada nilai bagi pengguna. Setelah menelusuri data publik, barulah saya koreksi: lebih dari 2,0 juta kali inferensi yang dapat diverifikasi, lebih dari 500 ribu bukti kriptografi, mencakup lebih dari 2 juta pengguna. Ini bukan demo—ini arus trafik nyata yang sudah berjalan.
AI yang dapat diverifikasi untuk pertama kalinya menyentuh skala level konsumsi. Bukan lagi mainan zk di artikel ilmiah.
Saya tidak menggantikan OpenGradient untuk menanggung semuanya. Setiap bukti memiliki biaya komputasi. Kalau zk ditingkatkan sampai skala miliaran inferensi, kurva biaya belum juga ditekan. Bukti hanya memastikan bahwa model tersebut benar-benar sudah dijalankan, bukan menjamin bahwa model itu tidak berbohong—membongkar kotak hitamnya, lalu pertanyaannya: apakah di dalamnya ada penipu atau tidak, itu urusan lain.
Di fase testnet, sistem bukti bisa ditingkatkan sekali; beberapa sifat pada versi lama bisa berubah.
Hal-hal yang ingin saya lihat juga cukup langsung. Saya ingin tahu apakah setelah OpenGradient resmi diluncurkan di mainnet, overhead end-to-end sistem buktinya bisa ditekan lagi satu tingkat. Saya juga ingin melihat apakah alat verifikasi independen pihak ketiga bisa menghasilkan hasil yang konsisten dengan versi resmi. Dan saya ingin tahu apakah suatu hari ada aplikasi AI yang bersedia menempelkan hash bukti untuk setiap output langsung di sisi depan agar pengguna bisa melihatnya.
Selama beberapa hal ini belum beres, membongkar kotak hitam adalah hal yang baik—tapi kita tetap perlu melihat satu kali lagi: apa yang sebenarnya dipasang di dalam. $HEI
#opg $OPG @OpenGradient