Sebagian besar perdebatan tentang AI dalam layanan keuangan berpusat pada apakah AI seharusnya merekomendasikan produk tertentu untuk dibeli. Yang jauh lebih menarik bagi saya adalah ketika AI benar-benar mulai membelanjakan uang atas nama klien.
Seorang klien bertanya kepada chatbot apakah mereka sebaiknya membeli Bitcoin, reksa dana yang ditokenisasi, atau saham. Setelah memberikan jawaban dengan yakin, seseorang mencoba melakukannya, lalu jauh setelahnya muncul perdebatan sengit tentang apakah model tersebut memberikan nasihat atau sekadar informasi.
Yang lebih menarik adalah ketika AI beralih dari menjawab pertanyaan pengguna menjadi memfasilitasi transaksi nyata. AI tidak perlu mengatakan “beli ini” untuk mulai memberikan dampak finansial yang serius. Berikan produk AI izin untuk membayar, menukar, mengisi saldo, dan beroperasi dalam kisaran harga tertentu, maka komentar menjadi hal yang wajib.
Tindakan apa saja yang dapat dilakukan AI? Aset apa saja yang akan berinteraksi dengannya? Rute apa yang akan digunakannya? Penafian yang menyatakan bahwa AI Anda bukan penasihat keuangan tidak membuat model izin yang buruk menjadi aman.
Industri pembayaran sudah mulai membangun sistem dengan mempertimbangkan hal ini. Sebagai contoh, Visa telah menguji coba perdagangan agentik sebagai bagian dari alur pembayaran agen tepercaya mereka. Sekilas tentang cara x402 (agen AI Coinbase untuk membayar barang dan jasa menggunakan USDC) dan Agent Pay for Machines dari Mastercard (pemberian kredensial, pengaturan izin, dan batas pengeluaran yang didukung API untuk pembayaran mesin otomatis) menggunakan perangkat lunak di dekat titik eksekusi untuk melakukan pembayaran. Semua hal ini terdengar seperti perangkat lunak yang berada dekat dengan titik eksekusi.
Dalam dunia kripto, ada lebih banyak alasan untuk mengkhawatirkan hal ini dibandingkan di sebagian besar industri. Keuangan tradisional melibatkan banyak hambatan saat memindahkan uang, mulai dari jalur perbankan hingga izin, pengelolaan akun, bahkan waktu penyelesaian transaksi.
Kripto menghilangkan sebagian besar hambatan dalam transaksi. Jadi, sebuah transaksi dapat ditandatangani, lalu diteruskan, ditukar, dijembatani, dan sebagainya, semuanya di dalam perangkat lunak. Banyak langkah ini biasanya memerlukan campur tangan pengguna, tetapi justru dilakukan oleh agen AI.
Agen AI yang dapat memindahkan kripto bisa menimbulkan kerugian besar sekaligus tetap mematuhi ‘otorisasinya’, meskipun hanya mengikuti instruksi yang sangat umum. Agen itu bisa menempuh rute yang tidak akan diizinkan pengguna seandainya mereka mengetahuinya, beralih ke aset yang salah, atau sekadar mengulangi serangkaian tindakan. “Diotorisasi secara teknis” dalam keuangan tidak sama dengan “klien memahami apa yang sedang terjadi”. Lapisan izin yang berfungsi untuk uang sungguhan memerlukan banyak pengaturan terperinci yang harus ditetapkan dengan benar: batas, jangka waktu, jumlah, dan kategori. Bisakah AI melakukan swap? Jika bisa melakukan swap, bisakah ia melakukan swap lintas jaringan? Jika bisa membayar, bisakah ia memilih aset penyelesaian untuk pembayaran itu? Meskipun ia dapat menyeimbangkan kembali portofolio dan mengoptimalkan biaya, bisakah ia juga menjual saat pasar bergejolak, dan apakah ia akan menunda eksekusi perdagangan yang dibutuhkan pengguna saat itu juga?
Produk yang menawarkan akses ke pasar kripto sudah menghadapi tantangan serupa. Misalnya, niat pengguna yang datang ke sebuah produk untuk membeli atau menjual kripto dapat mengharuskan pengelolaan berbagai aspek, seperti tingkat likuiditas yang dibutuhkan, biaya, dan beragam pemeriksaan risiko. Selain pengguna tidak hadir saat sistem AI mengambil keputusan, cakupan tanggung jawab produk juga berubah ketika pengguna mendelegasikan tindakan di masa mendatang. Pengguna perlu dapat melihat apa saja yang telah mereka setujui dan batas-batas persetujuan tersebut.
Bisnis akan jauh lebih peduli pada kontrol yang diperlukan untuk mengelola uang yang dipindahkan oleh agen AI daripada pengguna ritel peduli pada kemampuan untuk menyiapkan dan mengelola akun serta melakukan perdagangan menggunakan agen AI.
Tidak ada perusahaan yang akan membiarkan uang dalam jumlah operasional dipindahkan oleh demo AI yang tampak canggih. “Agen” ini akan memerlukan kontrol, jejak audit, aturan pengeluaran, proses penyelesaian yang jelas, serta cara untuk menghentikan aktivitas tanpa membuat seluruh proses lainnya terhenti total.
Struktur izin ini akan memerlukan kontrol, jejak audit, batas pengeluaran, batas pembayaran yang jelas, dan kemampuan untuk membatalkan transaksi yang sedang berlangsung tanpa memengaruhi bagian lain dari alur kerja. Meskipun agennya mungkin bekerja secara mandiri, kemungkinan besar bisnis ingin tahu siapa yang bertanggung jawab atas apa.
Saya membayangkan banyak perusahaan yang menawarkan “agen” berbasis AI untuk mengelola pembayaran akan segera gulung tikar saat “gelembung” ini pecah. Jika saya memberi satu aplikasi izin untuk membayar pemasok saya, lalu penyedia layanan pemasok itu memberhentikan semua stafnya dan menghentikan layanan, apakah saya ingin tahu apakah saya tetap harus membayar tagihan tersebut dan mungkin harus membayarnya sendiri lagi? Izinkan pengambilalihan tanpa menunggu tanggapan tim dukungan (yang mungkin tidak akan pernah datang).
