Dinas, menginap di hotel, tengah malam tidak bisa tidur, lalu terpikir untuk bertanya pada AI: tolong petakan apakah beberapa posisi long-tail di dompet saya perlu digerakkan. Begitu saya membuka kolom input, tangan saya langsung saya tarik kembali. Hal seperti ini bila dijalankan di model publik, sama saja dengan menyalin aset yang sedang saya pegang kepada backend yang tidak saya kenal. Akhirnya saya beralih ke Private Inference milik @OpenGradient —saya ingin melihat node yang dia maksud, tapi saya tidak bisa melihat kontennya; apa yang menyangga penjelasannya pun tidak terlihat. $AGLD
Saya memecah masalah posisi yang sama menjadi lima cara bertanya, menjalankannya dua putaran di Private Inference, sepuluh jawaban digabungkan menjadi satu, dan sekalian pada sisi node saya menangkap metadata permintaan untuk perbandingan. Hasilnya cukup bersih: node hanya melihat potongan payload terenkripsi dan label routing; teks terang yang diterima model hanya ada sementara di TEE enclave, lalu sudah dihapus sebelum keluar dari enclave; link transit dilewati melalui Oblivious HTTP; dan sumber permintaan juga sudah disamarkan.
Diskusi publik tentang Private Inference umumnya berhenti pada sudut pandang pengguna: “ini urusan pribadi, tidak bisa dicuri intip.” Yang benar-benar dilakukan OpenGradient lebih mendasar: ia mengubah proses inferensi yang secara alami terpusat, menjadi komputasi sekali pakai yang tak terlihat oleh node, dan juga tidak terlihat oleh pihak operasional. TEE bertugas mengeksekusi dengan tepercaya, Oblivious HTTP bertugas memutus identitas, dan Verification Layer bertugas memberikan bukti ketepatan eksekusi setelahnya. $VELVET
Indikator yang saya pantau juga saya ganti. Saya tidak terlalu peduli berapa kali OpenGradient menjalankan percakapan privat; yang saya incar adalah data anti-konsensus: setiap hari berapa banyak permintaan inferensi yang benar-benar tidak pernah keluar dari TEE sepanjang proses, dan berapa persentase yang menghasilkan bukti/kwitansi yang dapat diverifikasi secara publik. Yang pertama adalah volume arus; yang kedua adalah bukti bahwa jalur privasi ini benar-benar sedang dijalankan.
Kalau $OPG hanya menanggung biaya sekali jalan untuk komputasi inferensi privat, maka itu lebih mirip token berbayar berdasarkan bandwidth terenkripsi; tetapi jika di masa depan TEE node melakukan collateral, routing privasi, penerbitan kwitansi verifikasi, sanksi atas pelanggaran, dan kompensasi penahanan data sensitif semuanya membentuk satu siklus, maka yang ditanggungnya tidak lagi berupa token biaya, melainkan unit collateral kepercayaan untuk jaringan komputasi privasi ini.
Belum terburu-buru mengambil kesimpulan. Privasi inferensi adalah jalur yang pelan, dan supaya jalurnya berjalan mulus butuh waktu yang panjang; saya bersedia terus melihat sampel yang diserahkan OpenGradient ke mainnet dan pihak-pihak yang ikut mengakses setelahnya. #opg