Saat semua orang mendiskusikan @NewtonProtocol Automation Intents, mudah sekali fokus pada satu hal: apakah AI Agent akan menjalankan sesuatu secara sembarangan, apakah ia akan mentransfer uang ke tempat yang salah. Menurut saya, menjalankan sembarangan memang menakutkan, tetapi ada satu risiko lain yang lebih terselubung dan lebih sulit dipertanggungjawabkan—namanya otorisasi tersirat.

Otorisasi tersirat bukan karena sistem mengalami celah keamanan, juga bukan karena pengguna secara sukarela menyerahkan kunci privat. Itu terjadi ketika serangkaian operasi otomatis yang berjalan mulus membuat pengguna perlahan-lahan terbiasa menganggap Agent bisa melakukan hal seperti itu, seharusnya melakukan hal seperti itu, bahkan secara alami memang begitu—padahal sesungguhnya batas otorisasi asli sudah lama menjadi kabur.

Arsitektur Newton adalah ekspresi niat pengguna; AI Agent memecah jalur eksekusi di lapisan strategi dan di bawah batasan Operator, lalu menyelesaikan aksi tersebut di rantai. Proses ini dirancang dengan sangat baik, tetapi ada satu perangkap yang “lunak”: ketika Agent sepuluh kali berturut-turut melakukan tindakan yang sesuai ekspektasi pengguna, pertahanan psikologis pengguna akan menurun secara alami—bahkan pengguna tidak lagi memeriksa kondisi. Masalah biasanya baru muncul pada kunjungan ke sebelas.

Di sinilah muncul situasi yang canggung. Pengguna tidak menyetujui secara eksplisit penyesuaian kali ini, tetapi catatan sistem menunjukkan bahwa ia pernah menetapkan satu target yang sangat luas tiga bulan lalu, dan tidak ada perubahan di antaranya. Sulit untuk mengatakan Agent melampaui wewenang, dan juga sulit untuk menyebut pengguna tidak bersalah. Inilah kebuntuan khas dari persetujuan tersirat.

Secara spesifik, persetujuan tersirat akan cepat tereskalasi dalam beberapa situasi.

Pertama, orientasi optimasi hasil. Saat pengguna berkata, “Bantu tingkatkan pemanfaatan dana menganggur,” Agent awalnya menempatkan dana ke pool berisiko rendah. Lalu, ketika kondisi pasar berubah, demi mempertahankan imbal hasil, Agent secara otomatis beralih ke protokol baru. Tingkat risiko protokol ini berbeda, tetapi pada parameter ia tetap memenuhi batas lebar yang ditetapkan pengguna sejak awal. Niat sebenarnya pengguna adalah tidak ingin menyentuh protokol yang rumit, tetapi ia tidak pernah menulis “jangan masukkan protokol baru” di sistem, karena ia bahkan tidak tahu protokol apa yang akan muncul di masa depan.

Kedua, kombinasi multi-langkah. Pengguna hanya menyatakan tujuan akhir, dan Agent melakukan serangkaian operasi seperti lintas-chain, penukaran, lalu staking ulang. Setiap langkah bila dilihat sendiri tidak masalah, namun dalam kombinasi, dana terekspos pada status perantara yang singkat tetapi berisiko tinggi. Pada kondisi seperti ini, jika terjadi sesuatu yang tidak diinginkan, pengguna bahkan mungkin tidak bisa menjelaskan pada langkah mana sebenarnya “dia dilewati”.

Yang ketiga lebih terselubung, yaitu penggantian risiko. Untuk mengendalikan dimensi risiko tertentu, Agent secara proaktif memperbesar dimensi lain. Misalnya, untuk menghindari keterlambatan jembatan lintas-chain, ia memilih rute yang lebih cepat namun lebih mahal—biaya pada akhirnya dialihkan. Sistem menunjukkan bahwa ia bertindak sesuai intensi, tetapi struktur biaya total yang diperhatikan pengguna sudah berubah.

Kalau Newton ingin mendorong Automation Intents agar dipakai secara besar-besaran, harus ada mekanisme agar “otorisasi” kembali menjadi sesuatu yang terlihat. Bukan hanya memunculkan dialog sekali saat pengaturan pertama, tetapi memastikan perubahan pada batas-batas penting terus dilaporkan dan ditunjukkan kepada pengguna.

Misalnya, ketika agen berniat menggunakan tipe protokol yang sebelumnya tidak pernah dikonfirmasi oleh pengguna, harus dipicu konfirmasi kedua. Jika durasi ketika dana berada dalam status perantara melebihi ambang tertentu, proses harus dihentikan dan menunggu keputusan. Jika penyimpangan biaya melebihi kisaran yang ditetapkan, rute harus dievaluasi ulang. Ini bukan hambatan bagi pengalaman produk, melainkan garis pertahanan terakhir untuk mencegah erosi kedaulatan pengguna lewat persetujuan tersirat. $BTC

Saya tidak khawatir AI Agent akan menjadi terlalu bodoh; saya khawatir ia menjadi terlalu pintar—pintar sampai membuat pengguna merasa tidak perlu melihat apa pun. Risiko terbesar dari eksekusi otonom di rantai (on-chain) tidak pernah mesin salah, melainkan pengguna tidak lagi merasa perlu untuk ikut terlibat.

Nilai NEWT akan bergantung pada apakah Newton bisa menarik garis yang lebih jernih antara kemudahan penggunaan dan kewajiban konfirmasi. #Newt $NEWT @NewtonProtocol