Semakin saya memikirkan otomasi, semakin saya meragukan janji terbesarnya adalah menghemat waktu orang.
Waktu selalu mudah untuk diukur.
Niat belum.
Setiap sistem keuangan yang telah kita bangun mengasumsikan sesuatu yang sederhana: jika sebuah tindakan diotorisasi dengan benar, tindakan itu harus terjadi. Itu asumsi yang masuk akal ketika manusia tetap berada dekat dengan setiap keputusan. Kita mengklik tombolnya. Kita meninjau transaksinya. Kita menerima konsekuensinya.
AI diam-diam mengubah hubungan itu.
Orang yang mengambil keputusan dan saat keputusan tersebut dieksekusi tidak lagi harus ada pada waktu yang sama.
Awalnya, itu terasa seperti kemajuan.
Lalu muncul pemikiran lain.
Mungkin tantangan terbesar bukanlah mengajari AI bagaimana membuat keputusan yang lebih baik.
Mungkin itu memastikan bahwa keputusan kemarin masih mencerminkan maksud besok.
Niat manusia tidak statis.
Kita mengubah pikiran kita.
Pasar berubah.
Risiko muncul.
Informasi yang tampak lengkap kemarin bisa terasa sangat tidak lengkap dan berbahaya hari ini.
Namun otomatisasi cenderung terus bergerak kecuali ada sesuatu yang secara eksplisit menyuruhnya untuk berhenti.
Hal itu membuatku bertanya-tanya apakah masa depan otomatisasi finansial bergantung lebih sedikit pada membuat AI lebih cerdas, dan lebih banyak pada memudahkan manusia untuk mempertahankan maksudnya seiring keadaan berubah.
Di situlah Newton Protocol mulai terasa menarik bagiku.
Bukan karena itu menjanjikan otomatisasi yang sempurna.
Namun karena ia memperkenalkan gagasan bahwa tindakan penting dapat dievaluasi terhadap kebijakan sebelum tindakan itu terjadi, bukan dengan berasumsi bahwa setiap tindakan yang valid secara teknis seharusnya otomatis dijalankan.
Perbedaannya tampak kecil.
Secara filosofis, itu tidak.
Seseorang bertanya apakah suatu tindakan dapat terjadi.
Pertanyaan lainnya menanyakan apakah itu masih seharusnya.
Itu bukan pertanyaan yang sama.
Dan aku bertanya-tanya apakah kita telah menghabiskan begitu banyak waktu untuk mencoba menghilangkan gesekan dari keuangan digital sehingga kita mulai menganggap setiap keterlambatan sebagai masalah.
Kadang jeda bukanlah inefisiensi.
Kadang yang terakhir memberi kesempatan untuk menyadari bahwa dunia telah berubah sejak keputusan awal dibuat.
Teknologi sering merayakan kecepatan karena kecepatan mudah dibuktikan.
Penilaian lebih sulit.
Kamu tidak bisa mengukur kebijaksanaan seperti mengukur throughput transaksi.
Biasanya kamu baru menyadari nilainya setelah ketiadaannya menjadi mahal.
Mungkin itulah sebabnya otomatisasi berbasis izin terasa lebih bermakna daripada yang tampak pada awalnya.
Itu tidak membuat manusia lenyap dari pengambilan keputusan.
Itu menciptakan cara agar maksud awal mereka tetap hadir, bahkan ketika mereka sendiri sudah tidak lagi hadir.
Apakah itu menjadi penting atau tetap menjadi gagasan khusus bergantung pada sesuatu yang jauh melampaui kriptografi.
Ini bergantung pada apakah AI otonom menjadi cukup kuat sehingga orang mulai lebih tidak khawatir tentang apa yang bisa dilakukannya, dan lebih khawatir tentang apa yang tetap dilakukannya setelah mereka berhenti memperhatikannya.
Mungkin masa depan kepercayaan tidak akan dibangun dengan membuat AI berpikir lebih seperti manusia.
Mungkin dibangun dengan memastikan AI tidak pernah lupa apa maksud manusia pada awalnya.
Apa pendapatmu? Saat AI menjadi lebih otonom, apakah mempertahankan maksud manusia akan menjadi lebih penting daripada meningkatkan kecerdasan AI itu sendiri?