Beberapa hari lalu, saya menyaksikan mesin self-checkout menagih pelanggan yang salah untuk bahan belanja milik orang lain. Tidak ada yang memperdebatkannya pada awalnya karena semua orang berasumsi bahwa otomatisasi pasti benar. Akhirnya, seorang karyawan memperbaiki kesalahan itu, tetapi hal itu mengingatkan saya pada sesuatu yang terus saya perhatikan dalam kripto.
Kami menghabiskan banyak waktu untuk bertanya apakah otomatisasi bisa melakukan lebih banyak.
Kami menghabiskan jauh lebih sedikit waktu untuk bertanya siapa yang bertanggung jawab ketika otomatisasi membuat kesalahan.
Pertanyaan itu menjadi jauh lebih menarik ketika saya menelusuri @NewtonProtocol . Saya berharap ada diskusi lain tentang agen AI, strategi otomatis, dan eksekusi yang lebih cepat. Namun, yang saya pikirkan justru tentang akuntabilitas.
Bagi saya, topik ini jauh lebih besar daripada otomatisasi itu sendiri.
Otomatisasi mudah dikagumi ketika semuanya bekerja dengan sempurna. Bagian yang sulit dimulai saat pasar menjadi volatil, umpan data gagal, atau agen AI membuat keputusan buruk yang merugikan uang sungguhan.
Dalam keuangan tradisional, kesalahan biasanya ada pihak yang bertanggung jawab. Manajer portofolio bertanggung jawab kepada klien. Bank bertanggung jawab kepada regulator. Sebuah perusahaan bertanggung jawab kepada pemegang saham.
Crypto sering menghapus lapisan manusia itu.
Itu menciptakan efisiensi, tetapi juga dapat menciptakan jarak antara tindakan dan konsekuensinya.
Bayangkan menyewa seorang pengemudi pengantar.
Kalau mereka tahu bahwa mereka bertanggung jawab atas setiap paket, mereka mengemudi dengan hati-hati. Jika mereka tahu tidak ada yang bisa mengidentifikasi mereka setelah terjadi kesalahan, insentif mereka berubah seketika.
Otomatisasi bekerja dengan cara yang hampir sama.
Teknologi itu sendiri tidak jujur atau tidak jujur. Teknologi hanya mengikuti insentif.
Karena itulah saya pikir akuntabilitas layak mendapat perhatian lebih daripada kecepatan otomatisasi.
Banyak diskusi crypto berfokus pada bagaimana agen AI yang cerdas akan menjadi. Menurut saya, pertanyaan yang lebih penting adalah apakah agen-agen tersebut beroperasi di dalam sistem yang membuat perilaku buruk benar-benar memiliki konsekuensi.
Tanpa konsekuensi, otomatisasi hanya memperbesar kesalahan.
Satu proses yang rusak bisa menjadi ribuan transaksi yang rusak dalam hitungan menit.
Kita sudah melihat versi-versi yang lebih kecil dari hal ini di seluruh crypto.
Bot perdagangan secara tidak sengaja memperparah flash crash.
Sistem likuidasi yang dikonfigurasi dengan buruk telah memicu kerugian yang tidak perlu.
Kegagalan Oracle telah menyebabkan protokol bereaksi terhadap informasi yang salah.
Tidak ada masalah-masalah itu yang terjadi karena otomatisasi itu inherently buruk.
Itu terjadi karena sistem otomatis mengeksekusi persis apa yang dirancang untuk dilakukan—bahkan ketika instruksi tersebut menghasilkan hasil yang buruk.
Perbedaan itu penting.
Orang sering membayangkan AI sebagai sesuatu yang mampu mengambil penilaian secara mandiri.
Kebanyakan sistem otomatis sebenarnya sangat literal.
Berikan aturan yang tidak sempurna kepada mereka, dan mereka akan mengeksekusi keputusan yang tidak sempurna itu dengan sempurna.
Itu mengingatkan saya pada navigasi GPS.
Kebanyakan pengemudi pernah mengalami GPS yang mengarahkan mereka ke jalan yang mustahil atau ke kemacetan yang tak terduga.
GPS tidak mencoba membuat keputusan yang buruk.
Ia hanya mengikuti informasi yang tersedia.
Pengemudi yang baik menyadari kapan mereka harus berhenti mempercayai otomatisasi.
Pengemudi yang buruk terus mengemudi karena "komputer bilang begitu".
Crypto menghadapi tantangan yang serupa.
Saat agen AI menjadi mampu mengelola aset, mengeksekusi perdagangan, berinteraksi lintas chain, dan mengambil keputusan keuangan, pengguna mungkin mulai mempercayai mereka tanpa memahami keterbatasannya.
Itu menciptakan ilusi yang berbahaya.
Otomatisasi dapat mengurangi usaha.
Tidak bisa menghilangkan tanggung jawab.
Salah satu aspek dari @NewtonProtocol that yang menarik perhatian saya adalah upayanya untuk berpikir melampaui otomatisasi murni dengan memperkenalkan mekanisme yang dimaksudkan untuk menyelaraskan insentif antara operator dan tindakan yang dilakukan atas nama pengguna.
Apakah setiap penerapan berhasil adalah sesuatu yang hanya adopsi nyata yang bisa membuktikannya.
Whitepaper jarang mengungkapkan bagaimana sistem berperilaku saat mendapat tekanan.
Pasar begitu.
Karena itulah saya tetap tertarik secara hati-hati, bukan sepenuhnya yakin.
Akuntabilitas nyata diuji saat terjadi kegagalan, bukan saat video demo yang sukses.
Misalkan, di masa depan, sebuah agen AI mengelola portofolio investasi.
Ia secara otomatis menyeimbangkan ulang aset, mengklaim imbalan staking, memindahkan likuiditas antar protokol, dan mencari peluang hasil (yield).
Semuanya terlihat mengesankan.
Lalu satu peristiwa di pasar menghasilkan kondisi yang tak terduga.
AI mengikuti logika yang diprogramkan dan kehilangan modal yang signifikan.
Siapa yang memikul tanggung jawab?
Pengguna?
Pengembang?
Operator?
Protokolnya?
Tanpa jawaban yang jelas, otomatisasi menjadi sulit untuk dipercaya dalam skala besar.
Sekarang bayangkan skenario lain.
Sebuah bisnis terdesentralisasi mempekerjakan agen AI untuk menangani pembayaran pemasok, penggajian, dan manajemen treasury.
Sistem menghemat beberapa jam setiap minggu.
Tapi satu pembaruan perangkat lunak yang salah mengirim pembayaran ke alamat yang keliru.
Efisiensi yang didapat selama berbulan-bulan lenyap dalam hitungan menit.
Sekali lagi, akuntabilitas menjadi lebih berharga daripada otomatisasi itu sendiri.
Karena itulah saya percaya bahwa infrastruktur lebih penting daripada demo AI yang mencolok.
Industri crypto sering merayakan apa yang bisa dicapai oleh otomatisasi.
Saya pikir kita seharusnya merayakan secara setara sistem yang menimbulkan konsekuensi ketika otomatisasi berperilaku tidak bertanggung jawab.
Kalau tidak, kita berisiko membangun sistem yang sangat cepat yang hanya membuat kesalahan mahal dengan lebih cepat.
Ada faktor psikologis lain yang layak mendapat perhatian.
Manusia secara alami mempercayai mesin yang tampak cerdas.
Kita menganggap perangkat lunak bersifat objektif.
Kita menganggap algoritma menghilangkan bias.
Tidak satu pun asumsi selalu benar.
Algoritma mewarisi asumsi dari orang-orang yang merancangnya.
AI mewarisi keterbatasan dari data pelatihannya.
Otomatisasi mewarisi risiko dari infrastruktur di sekelilingnya.
Tidak ada teknologi-teknologi ini yang berdiri sendiri.
Karena itulah akuntabilitas tidak bisa ditambahkan belakangan sebagai fitur opsional.
Sistem itu harus ada sejak awal.
Kalau tidak, setiap peningkatan dalam otomatisasi juga meningkatkan kecepatan penyebaran masalah.
Ke depan, saya bisa membayangkan agen AI menjadi peserta normal dalam keuangan terdesentralisasi.
Mereka dapat menegosiasikan transaksi, mengoptimalkan likuiditas, mengelola langganan, menjalankan instruksi tata kelola, dan berkoordinasi lintas banyak blockchain.
Masa depan itu tampaknya semakin realistis.
Tapi saya tidak berpikir pengguna akan percaya agen otonom hanya karena mereka cerdas.
Orang akan mempercayai mereka ketika mereka tahu bahwa tanggung jawab tetap ada jika terjadi sesuatu yang salah.
Bagi saya, pertanyaan jangka panjang yang lebih menarik adalah yang mengitari $NEWT dan visi yang lebih luas di balik #Newt .
Teknologinya sendiri menarik.
Tata kelola di sekitar teknologi pada akhirnya mungkin terbukti bahkan lebih penting.
Crypto telah menghabiskan bertahun-tahun untuk membuktikan bahwa otomatisasi itu mungkin.
Tantangan berikutnya adalah membuktikan bahwa otomatisasi tetap bisa akuntabel ketika miliaran dolar bergantung padanya.
Jika tantangan itu terselesaikan, keuangan otonom bisa menjadi jauh lebih praktis daripada yang banyak orang bayangkan.
Jika tidak, kita mungkin saja hanya mengotomatiskan masalah lama yang sama, namun dengan skala yang jauh lebih besar.
Pertanyaan diskusi: Saat agen AI menjadi lebih otonom di crypto, apa yang lebih penting bagi Anda: otomatisasi yang lebih cerdas atau akuntabilitas yang lebih kuat saat terjadi kesalahan?