Saya terus kembali ke pertanyaan yang sama setiap kali saya melihat infrastruktur otonom: bukan apakah sistem dapat mengambil keputusan, melainkan apakah kita memahami semua hal yang bergantung pada keputusan itu.
Percakapan tentang otomasi sering kali berfokus pada kemampuan. Dapatkah agen AI mengeksekusi sebuah perdagangan? Dapatkah sebuah protokol menegakkan kebijakan tanpa campur tangan manusia? Dapatkah jaringan terdesentralisasi mengoordinasikan tindakan kompleks lebih cepat daripada yang bisa dilakukan oleh satu individu? Itu semua pertanyaan yang menarik, tetapi saya tidak yakin itu adalah hal yang paling penting lagi.
Pertanyaan yang benar-benar penting jauh lebih sederhana: Keputusan itu sebenarnya dibangun di atas apa?
Sekilas, protokol seperti Newton membuat prosesnya tampak mudah. Sebuah transaksi diajukan, kebijakan dievaluasi, dan tindakan akan berlanjut atau berhenti. Dari luar, rasanya hampir mekanis—urutan yang rapi dari masukan yang mengarah pada hasil yang dapat diprediksi.
Tapi semakin saya mengeksplorasi bagaimana sistem-sistem ini bekerja, semakin saya menyadari bahwa setiap keputusan terotomatisasi bertumpu pada rangkaian sinyal eksternal yang tidak terlihat. Sebuah kebijakan mungkin mengandalkan harga pasar dari oracle, penilaian risiko dari penyedia khusus, pengesahan identitas, pemeriksaan kepatuhan, atau metrik kesehatan vault. Setiap input itu mewakili sumber informasi yang independen, dikelola oleh organisasi yang berbeda, diperbarui pada jadwal yang berbeda, dan dibangun dengan asumsi yang berbeda pula.
Artinya, otonomi tidak pernah benar-benar terisolasi. Setiap keputusan “otomatis” sebenarnya adalah hasil dari banyak keputusan yang lebih kecil yang terjadi terlebih dahulu di tempat lain.
Setelah saya mulai memikirkan hal itu dengan cara seperti ini, otomatisasi terasa kurang seperti satu mesin tunggal dan lebih seperti sebuah rantai pasok.
Bayangkan memesan sebuah produk secara online. Pengiriman terlihat sederhana karena sebuah paket tiba di depan pintu Anda, tetapi di balik satu peristiwa itu ada jaringan gudang yang sangat besar, perusahaan pengiriman, sistem inventaris, pemeriksaan bea cukai, prosesor pembayaran, dan perangkat lunak logistik. Jika satu bagian dari rantai itu gagal, pengirimannya berubah.
Infrastruktur otonom bekerja dengan cara yang mengejutkan mirip.
Keputusan akhir mungkin tampak instan, tetapi ia bergantung pada puluhan komponen independen yang bekerja bersama. Jika satu oracle diperbarui beberapa detik lebih awal daripada oracle lain, atau jika penyedia risiko mengubah metodologinya semalaman, hasilnya bisa berubah meskipun dari sudut pandang pengguna tidak tampak ada perbedaan.
Itu tidak selalu berarti protokolnya rusak.
Ini berarti protokol hanya bisa dipahami sejauh ketergantungan yang melandasinya.
Wawasan ini juga mengubah cara saya memikirkan transparansi.
Selama bertahun-tahun, blockchain menekankan transparansi melalui transaksi publik. Kita bisa memverifikasi saldo, memeriksa kontrak, dan mengaudit eksekusi setelah kejadian. Tetapi sistem otonom menambahkan lapisan lain yang tidak selalu terlihat: informasi yang digunakan sebelum eksekusi.
Mengetahui bahwa sebuah kebijakan diterapkan itu bernilai.
Mengetahui mengapa ia mencapai kesimpulan tertentu sering kali bahkan lebih berharga.
Saat agen AI mulai mengelola modal, mengoordinasikan alur kerja, atau berinteraksi dengan infrastruktur keuangan, memahami ketergantungan ini menjadi semakin penting. Eksekusi yang benar-benar deterministik tidak otomatis menciptakan kepercayaan jika input yang mendasarinya tetap buram.
Kepercayaan tidak muncul hanya karena sebuah smart contract dieksekusi dengan benar.
Kepercayaan tumbuh ketika orang memahami asumsi yang menghasilkan eksekusi sejak awal.
Saya pikir ini mewakili salah satu tantangan besar berikutnya untuk infrastruktur otonom. Industri telah menghabiskan bertahun-tahun membuat eksekusi terdesentralisasi dan dapat diverifikasi. Langkah berikutnya mungkin membuat proses pengambilan keputusan itu sendiri lebih mudah untuk diperiksa.
Bayangkan bukan hanya melihat bahwa sebuah transaksi lolos pemeriksaan kebijakan, tetapi juga melihat sumber data mana yang dirujuk, versi kebijakan mana yang diterapkan, kapan setiap sinyal eksternal diperbarui, dan bagaimana informasi yang saling bertentangan diselesaikan. Kejelasan seperti itu akan mengubah otomatisasi dari sesuatu yang sekadar diterima pengguna menjadi sesuatu yang dapat mereka nilai secara bermakna.
Dalam banyak hal, sistem otonom tidak menghapus kepercayaan—mereka mendistribusikannya.
Daripada mempercayai satu operator, kita mulai mempercayai jaringan penyedia data, penulis kebijakan, operator oracle, sistem identitas, dan mekanisme verifikasi. Protokol menjadi koordinator, tetapi kualitas keputusannya bergantung pada kualitas setiap mata rantai dalam rangkaian itu.
Wawasan itu mengubah cara saya memikirkan otonomi. Tantangannya bukan membangun sistem yang bisa bertindak tanpa manusia. Tantangannya adalah membangun sistem yang membuat ketergantungannya terlihat cukup agar manusia bisa memahami, mempertanyakan, dan pada akhirnya mempercayai tindakan yang mereka ambil.
Mungkin masa depan infrastruktur otonom tidak akan ditentukan oleh seberapa independen mesin dapat bertindak. Melainkan ditentukan oleh seberapa jelas mereka bisa menjelaskan fondasi dari setiap keputusan yang mereka buat.
