Bayangkan Anda meminta agen AI memesan penerbangan kelas bisnis ke Korea. Agen itu menemukan tiket murah yang sesuai dengan anggaran Anda. Hanya ada satu masalah: agen itu memilih Korea yang salah.

Daniel Ishag, direktur komersial Bakkt, menceritakan versi hipotetis ini dalam sebuah diskusi panel.

“Bagaimana saya tahu agen itu tidak akan memesankan saya penerbangan ke Korea Utara, bukan Korea Selatan?” tanyanya.

Contoh ini sengaja dibuat ekstrem. Namun, contoh ini mengungkap masalah praktis saat memberi perangkat lunak izin untuk membelanjakan uang. Mengikuti anggaran bukan berarti memahami tugasnya.

Dan setelah uang berpindah, seseorang harus menangani kesalahan itu.

Infrastruktur pembayaran agen AI mulai bisa digunakan. Permintaan luas dan aktivitas keuangan otonom belum terbukti dengan baik. Laporan baru kami, The State of AI Agent Payments 2026, mengulas apa yang ditunjukkan oleh aktivitas yang teramati🧵 pic.twitter.com/OxOG1UayVD

— BeInCrypto (@beincrypto) 6 Oktober 2026

Anggaran Hanyalah Awal

Agen mungkin salah memahami permintaan. Penyerang mungkin memberinya instruksi yang disamarkan sebagai informasi berguna. Seseorang mungkin mencuri akses ke akunnya.

Kegagalan-kegagalan ini dapat menghasilkan dampak langsung yang sama—pembayaran yang tidak pernah diinginkan pemiliknya—tetapi menimbulkan pertanyaan berbeda tentang tanggung jawab.

Laporan BeInCrypto, State of AI Agent Payments 2026, mengklasifikasikan 14 dari 19 produk dan alur kerja yang ditinjau sebagai mampu bertindak dalam batas izin yang disetujui sebelumnya. Temuan itu menjelaskan kemampuan yang terdokumentasi, bukan bukti bahwa kontrolnya tidak mungkin gagal.

Secara terpisah, dua insiden terpilih yang dikaji dalam laporan itu mengirimkan $281,200 kepada penyerang sebelum dana berhasil dipulihkan. Instruksi berbahaya mencapai dompet berisi dana tanpa meretas blockchain.

Phillip Lord, CEO Bitcoin Japan Corporation, memperkirakan agen akan menambah risiko. Ia juga terus terang soal alternatifnya, yaitu manusia.

“Tapi kripto sudah sangat berisiko, bukan?” katanya. “Manusia juga tidak terlalu andal, bukan?”

Orang-orang sudah terbiasa mengeklik tautan berbahaya dan memercayai informasi yang keliru. Mendelegasikan tugas menambahkan satu keputusan lagi: siapa yang akan bertanggung jawab atas kesalahan ketika perangkat lunak bertindak atas nama Anda?

Tekanan untuk Terus Membangun

Menurut Ishag, persaingan tidak hanya terjadi di antara perusahaan yang mencari pelanggan. Negara-negara bersaing untuk mendapatkan listrik, daya komputasi, dan cip yang dibutuhkan untuk membangun AI.

“Persaingannya antarnegara berdaulat,” kata Daniel Ishag dari Bakkt.

Ia khawatir tekanan untuk bergerak cepat dapat membuat keamanan dikesampingkan.

Hal itu menciptakan situasi yang tidak nyaman bagi otomatisasi keuangan: perlombaan mendorong perangkat lunak untuk melakukan lebih banyak hal, sementara pengguna perlu yakin bahwa seseorang dapat menghentikannya—atau membantu mereka memulihkan dana setelahnya.

Saat ini, AI adalah satu-satunya hal yang penting bagi pasar. Perusahaan infrastruktur AI kini mencakup 40% kapitalisasi pasar S&P 500. Pada saat yang sama, hanya 3 perusahaan pembuat cip yang mencakup 28% Indeks Pasar Berkembang MSCI. Perusahaan terkait AI juga mencakup 49% dari… pic.twitter.com/d8Nqu9Kuyo

— The Kobeissi Letter (@KobeissiLetter) 1 Oktober 2026

Baca Janjinya, Lalu Ketentuannya

Ehud Tal, salah satu pendiri sekaligus CEO perusahaan keamanan blockchain Sailo Technologies, menyebut penggantian kerugian sebagai bagian dari solusi yang ditawarkan perusahaannya.

“Jadi, untuk pertama kalinya, kami memberikan jaminan uang kembali kepada pelanggan kami.”

Untuk contoh konkret tentang bagaimana tanggung jawab dapat ditetapkan, perhatikan dompet Link milik Stripe. Ketentuan agen yang berlaku saat ini menyatakan bahwa, dalam hubungan antara pengguna dan Stripe, pengguna bertanggung jawab atas transaksi yang dimulai oleh agen yang terhubung—bahkan jika transaksi tersebut tidak disengaja atau terjadi karena bug, halusinasi, atau instruksi yang disalahpahami.

Ketentuan tersebut mengecualikan kegagalan teknis atau kesalahan yang berasal dari Stripe sendiri.

Ketentuan kontrak itu tidak menentukan seluruh hak hukum setiap konsumen. Namun, ketentuan itu menunjukkan mengapa izin untuk menggunakan layanan pembayaran tidak boleh disalahartikan sebagai janji bahwa penyedia akan menanggung kesalahan agen.

Menyetujui pengeluaran sebesar $200 memberi tahu penyedia pembayaran sesuatu tentang jumlahnya. Namun, persetujuan itu mungkin tidak banyak menjelaskan produk, penerima, atau kondisi yang Anda maksud.

Setelah pembelian bermasalah, perbedaan itu bisa menjadi inti perselisihan.

Ada upaya untuk mempermudah penyelesaian perselisihan tersebut. Agent Payments Protocol dari Google menjelaskan catatan bertanda tangan yang menghubungkan instruksi pengguna, pembelian yang disetujui, dan pembayaran. Catatan seperti itu dapat membantu memastikan apa yang diizinkan. Namun, catatan itu sendiri tidak menjanjikan penggantian uang.

Tanggung jawab yang sudah ada juga tetap berlaku. Financial Conduct Authority Inggris menyatakan bahwa perusahaan yang diatur tetap bertanggung jawab atas hasil bagi konsumen saat menggunakan AI, dan memperingatkan bahwa peninjauan oleh manusia dapat berubah menjadi sekadar formalitas.

Karena itu, bagi siapa pun yang mendanai agen, pertanyaan yang berguna bersifat spesifik. Pembelian apa saja yang boleh dilakukannya? Catatan apa yang menyimpan instruksi Anda? Bisakah Anda menghentikan pengeluaran lebih lanjut? Dan siapa yang menangani pembayaran yang Anda sanggah?

“Kita harus membangun perusahaan yang bisa dipercaya,” kata Phillip Lord dari Bitcoin Japan Corporation.

Bagi pelanggan, kepercayaan itu akan diuji setelah transaksi: ketika agen membuat kesalahan dan seseorang harus memutuskan siapa yang akan mengembalikan uang mereka.