Saya sedang menyimak percakapan tentang pergeseran AI pengemudi mandiri dari sekadar pintar menjadi bertanggung jawab. Semakin saya mempelajari proyek yang membangun infrastruktur AI untuk blockchain, semakin saya berpikir bahwa tantangan besar bukanlah apakah suatu agen bisa melakukan sebuah tugas. Jika ia melakukannya, apakah ia melakukan apa yang diinginkan pengguna?
Itu membantu menjelaskan mengapa protokol seperti Newton ada.
Kebanyakan sistem digital dimulai dengan memeriksa siapa Anda. Mereka memverifikasi identitas Anda sebelum mengizinkan Anda masuk. Ini berjalan dengan baik untuk manusia. Agen AI berbeda. Setelah seorang agen diizinkan untuk bertindak, bagaimana kita memastikan bahwa ia tetap berada dalam batasan yang ditetapkan pengguna?
Newton berfokus pada otorisasi. Dibanding sekadar mempercayai model AI atau aplikasi, protokol membuat izin menjadi jelas, dapat diverifikasi, dan dapat diberlakukan. Tujuannya bukan hanya agar AI bertindak sendiri, melainkan memastikan ia melakukannya dalam batasan.
Hal ini penting karena AI kini melampaui sekadar memberi saran. Agen sekarang berinteraksi dengan dompet untuk mengeksekusi transaksi, mengelola aset, dan bekerja di berbagai aplikasi terdesentralisasi. Seiring meningkatnya tanggung jawab mereka, biaya kesalahan pun ikut bertambah. Sistem yang memeriksa identitas tetapi tidak otorisasi menyisakan celah antara apa yang diinginkan pengguna dan apa yang dilakukan mesin.
Dari sudut pandang desain, Newton tampaknya memisahkan kecerdasan dari pemeriksaan izin. Agen AI memutuskan apa yang harus dilakukan. Kebijakan otorisasi menentukan apakah tindakan itu diizinkan. Ini menciptakan pemisahan tugas. Alih-alih mengharapkan model AI untuk mengawasi dirinya sendiri, protokol memperlakukan pemeriksaan izin sebagai lapisan terpisah yang bisa ditinjau dan diaudit.
Desain ini memiliki kekuatan. Otorisasi yang jelas dapat meningkatkan keterauditannya karena aturan izin lebih mudah diperiksa. Pengembang juga bisa mendapat manfaat dari kerangka kerja otorisasi. Yang terpenting, pengguna mendapatkan visibilitas yang lebih jelas tentang batasan yang mengatur tindakan otonom.
Namun otorisasi bukanlah solusi. Sistem izin hanya sebaik aturan yang diberlakukannya. Kebijakan yang terlalu luas mungkin masih memungkinkan perilaku tertentu, sedangkan kebijakan yang terlalu ketat dapat mengurangi kegunaan agen otonom. Merancang izin yang mencerminkan maksud pengguna tetap menjadi tantangan.
Pertanyaan lain adalah interoperabilitas. Kemungkinan besar AI otonom tidak akan bertahan hanya di satu ekosistem blockchain. Jika kerangka kerja otorisasi tidak dapat bekerja secara konsisten di berbagai dompet, aplikasi, dan jaringan, dampaknya bisa terbatas. Kompatibilitas lintas rantai dan adopsi pengembang akan berperan dalam menentukan apakah model ini dapat berkembang.
Tata kelola juga layak mendapat perhatian. Standar otorisasi perlu berevolusi seiring dengan sistem AI yang semakin mumpuni. Cara standar tersebut diperbarui dan siapa yang memiliki wewenang untuk mengubahnya akan memengaruhi kredibilitas protokol.
Bagi pembaca yang menilai Newton, pertanyaan yang berguna bukan apakah protokol tersebut menjanjikan AI yang lebih cerdas. Sebaliknya, tanyakan apakah model otorisasinya benar-benar mengurangi kesenjangan antara maksud pengguna dan eksekusi otonom. Jika sistem otonom menjadi bagian dari infrastruktur blockchain, otorisasi yang transparan mungkin sama mendasarnya seperti autentikasi saat ini.
Apakah pada akhirnya Newton menjadi implementasi terdepan masih menjadi pertanyaan. Namun gagasan yang lebih luas yang ia soroti patut diikuti: masa depan sistem otonom mungkin bergantung lebih sedikit pada memberi AI lebih banyak kebebasan dan lebih banyak pada membuat setiap tindakan dapat dipertanggungjawabkan secara terbukti.
