Saya mulai bertanya-tanya apakah bagian tersulit dari AI bukanlah membuatnya lebih cerdas, melainkan membuatnya bisa dipertanggungjawabkan.
Kebanyakan pembahasan tentang agen AI berfokus pada apa yang kelak mereka mampu lakukan. Mengeksekusi perdagangan, mengelola portofolio, memindahkan aset, bernegosiasi dengan agen lain. Asumsinya seolah kemampuan adalah hambatan utamanya. Setelah meluangkan waktu mempelajari Newton Protocol, saya tidak yakin itu tantangan sebenarnya lagi.
Masalah yang terabaikan adalah kepercayaan setelah pendelegasian.
Begitu kita mengizinkan agen AI untuk bertindak atas nama kita, kita membentuk hubungan baru. Kita berhenti membuat setiap keputusan sendiri dan mulai mengandalkan perangkat lunak untuk menafsirkan maksud kita. Itu terdengar efisien sampai sesuatu yang tak terduga terjadi. Jika agen membuat keputusan yang buruk, melampaui izinnya, atau sekadar mengikuti instruksi dengan cara yang tidak ada yang perkirakan, siapa yang bertanggung jawab? Lebih penting lagi, bagaimana kita memverifikasi apa yang benar-benar terjadi?
Perangkat lunak tradisional biasanya mengeksekusi kode deterministik. Sistem AI tidak selalu berperilaku seperti itu. Mereka beroperasi berdasarkan probabilitas, konteks, dan informasi yang terus berkembang. Itu membuat akuntabilitas jauh lebih sulit daripada sekadar memeriksa apakah sebuah transaksi berhasil.
Inilah bagian dari Newton Protocol yang membuat perhatian saya tetap tertuju. Alih-alih menganggap otomatisasi sebagai tujuan akhir, ia menjadikan tata kelola dan verifikasi sebagai bagian dari infrastruktur itu sendiri. Rollup yang aman yang dirancang dengan izin, kebijakan, dan eksekusi yang dapat diverifikasi menunjukkan bahwa sistem AI masa depan mungkin memerlukan aturan operasional seperti halnya mereka memerlukan kecerdasan.
Yang menarik perhatian saya bukan hanya teknologinya. Melainkan asumsi di baliknya. Proyek ini tampaknya menyadari bahwa adopsi tidak hanya akan bergantung pada seberapa cakap AI tersebut. Adopsi mungkin bergantung pada apakah orang bisa mendelegasikan wewenang dengan percaya diri tanpa kehilangan visibilitas terhadap apa yang dilakukan agen mereka.
Seiring AI menjadi semakin otonom, infrastruktur mungkin secara perlahan menggantikan kecerdasan sebagai keunggulan kompetitif terbesar. Proyek yang membentuk kepercayaan, koordinasi, dan akuntabilitas dapat membentuk generasi aplikasi onchain berikutnya lebih dari sekadar modelnya sendiri.
Pertanyaan yang terus saya pikirkan adalah ini: ketika agen AI menjadi hal yang umum di seluruh dunia kripto, apakah pengguna akan memilih agen yang paling cerdas, atau agen yang tindakannya benar-benar bisa mereka verifikasi?