Percakapan tentang AI telah berubah lebih banyak daripada yang disadari kebanyakan orang. Pada awalnya, rasanya seperti sebuah alat yang hanya membantu orang berpikir melalui keputusan. Ia bisa menyortir jumlah data yang sangat besar, menemukan pola, dan menyarankan apa yang mungkin terjadi selanjutnya. Tapi pada akhirnya, tetap saja ada seseorang yang harus memutuskan apa yang harus dilakukan.
Garis itu mulai menghilang.
Hal yang menarik perhatian saya dari proyek seperti Newton Protocol bukan hanya teknologinya. Ada pergeseran tanggung jawab yang tenang. Kita sedang bergerak dari AI yang memberi saran menjadi AI yang benar-benar bisa mengambil tindakan. Perbedaan kecil itu mungkin terdengar sepele, tapi itu mengubah seluruh arah percakapan.
Semua orang menyukai gagasan tentang sistem yang lebih cepat dan otomatisasi yang lebih cerdas. Mudah untuk melihat alasannya. Namun, pasar keuangan punya cara untuk mengingatkan kita bahwa bergerak cepat tidak selalu sama dengan bergerak dengan bijak. Ketika perangkat lunak mulai membuat keputusan sendiri, pertanyaan terbesar bukanlah seberapa cepat ia bekerja. Melainkan apakah orang-orang merasa nyaman mempercayainya ketika uang sungguhan terlibat.
Itulah mengapa fondasinya begitu penting. Sebelum AI bisa mengelola aset atau menjalankan transaksi dengan sendirinya, orang perlu tahu bahwa ada aturan yang jelas dan perlindungan yang kuat. Kepercayaan tidak datang hanya dari teknologi yang mengesankan. Kepercayaan muncul dari keyakinan bahwa ada sistem yang tetap membuat semuanya terkendali ketika sesuatu yang tak terduga terjadi.
Ada perubahan lain yang mudah terlewatkan. Para pengembang kini tidak lagi hanya membangun perangkat lunak yang menunggu seseorang menekan tombol. Lebih banyak dari mereka yang menciptakan agen AI yang bisa bekerja sendiri. Jika agen-agen itu menjadi bagian dari pasar yang lebih besar, orang tidak akan menilai mereka hanya dari seberapa cerdas mereka. Mereka akan menilainya dari apakah agen tersebut terus menjalankan tugasnya dengan baik dari waktu ke waktu.
Tentu saja, beberapa pertanyaan tidak punya jawaban yang sederhana. Jika strategi perdagangan otonom membuat kesalahan yang merugikan, siapa yang bertanggung jawab? Bagaimana cara mempercayai sebuah sistem jika kita tidak bisa sepenuhnya memahami bagaimana sistem itu sampai pada sebuah keputusan? Dan apa yang terjadi ketika ribuan agen AI membuat keputusan di pasar yang sama pada waktu yang sama?
Ini bukan alasan untuk memperlambat inovasi. Ini pengingat bahwa teknologi biasanya bergerak lebih cepat daripada percakapan tentang tanggung jawab dan kepercayaan. Semakin besar kebebasan yang kita berikan kepada AI, semakin cermat kita harus memikirkan sistem yang dibangun di sekelilingnya.
Pada akhirnya, menurut saya, pemenang terbesar tidak akan sekadar platform yang paling cepat atau yang paling canggih. Mereka adalah yang membuat orang merasa nyaman menyerahkan tanggung jawab tanpa merasa seperti sedang mengambil risiko secara membabi buta. Di masa depan yang dibentuk oleh keuangan otonom, jenis kepercayaan seperti itu mungkin justru yang paling sulit untuk dibangun dan yang paling berharga untuk diraih.