Kepercayaan kadang tidak lenyap karena sistem mengalami kesalahan.
Kepercayaan lenyap karena sudah terlalu lama sehingga tidak ada lagi yang memeriksa sistem.
Aku menyadari hal ini saat melihat bagaimana AI mulai ikut ambil bagian dalam lebih banyak keputusan.
Dari transaksi, alokasi aset hingga otomatisasi proses, semakin banyak pekerjaan yang diserahkan ke mesin, semakin sedikit manusia yang menelaah setiap langkah di antaranya.
Cukup beberapa kali hasilnya benar, proses verifikasi pelan-pelan berubah menjadi kebiasaan yang diabaikan.
Saat itulah aku melihat Newton dengan cara yang berbeda.
Bagian menarik dari proyek ini bukan terletak pada policy atau verification.
Letaknya pada menjaga agar proses verifikasi tetap ada, bahkan ketika pengguna tidak lagi secara aktif melaksanakannya.
Sebuah transaksi yang disetujui tidak otomatis berarti keputusan di baliknya dapat dipercaya.
Seperti halnya perhitungan yang menghasilkan jawaban benar tidak berarti cara penyelesaiannya juga benar.
Jarak antara dua hal itu akan menjadi semakin penting ketika AI mulai mengambil keputusan sendiri alih-alih manusia.
Aku pikir ini adalah perbedaan antara sistem yang dapat dipercaya dan sistem yang hanya terasa familiar.
Sistem yang familiar membuat orang berhenti mempertanyakan.
Sistem yang dapat dipercaya selalu memungkinkan pertanyaan untuk dijawab.
Mungkin masa depan AI tidak akan bergantung pada seberapa besar kita percaya pada sistem.
Melainkan pada seberapa jauh kita masih bisa memverifikasi sistem tersebut. #newt $NEWT $SYN $BTC

Apa yang lebih berharga dalam ekonomi yang digerakkan oleh AI?