Aku tidak berani membiarkan AI membelanjakan uangku, sampai memahami desain ini @KITE AI 中文
Sejujurnya, sekarang AI Agent sedang ramai dibicarakan—katanya bisa membantu memesankan hotel, menjalankan strategi, dan sebagainya. Tapi kalau benar-benar harus menyerahkan dompetku kepadanya, aku masih ragu.
Bukan karena takut ia bodoh, tapi takut ia bertindak sembarangan. Coba pikirkan: satu bug saja, atau ia sedikit saja terpengaruh bujukan orang, uang yang sudah ditransfer tidak akan bisa kembali. Selain itu, banyak Agent saat ini mengakses layanan dengan kunci yang berlaku lama. Hak aksesnya kelewat besar, rasanya seperti menggantung kunci rumah tepat di depan pintu.
Belakangan, setelah aku mempelajari Agent Passport dari Kite dengan serius, aku baru merasa bahwa masalah ini ada solusinya.
Konsepnya sebenarnya mirip cara perusahaan mengelola uang. Kamu adalah bosnya, memegang hak akses tertinggi, dan kunci privat tidak pernah diserahkan. Agent ibarat karyawan: ia punya identitas dan alamat sendiri, tetapi identitas ini diturunkan dari dompetmu, jadi kalau terjadi masalah, jejaknya bisa dilacak kembali kepadamu. Setiap kali melakukan tugas tertentu, berikan saja kunci sekali pakai yang bersifat sementara. Setelah tugas selesai, kuncinya langsung tidak berlaku.
Misalnya, aku memintanya membeli sejumlah data. Kunci itu hanya bisa digunakan di tempat yang ditentukan, untuk membelanjakan jumlah yang ditentukan, dalam jangka waktu yang ditentukan. Kalau membelanjakan satu sen lebih banyak saja, transaksi akan langsung diblokir di blockchain.
Menurutku, inilah intinya. Dulu, kita baru memeriksa pembukuan setelah terjadi masalah. Sekarang, kita mencegahnya melampaui batas sejak awal.
Ada satu detail lagi yang kusukai: uangnya terisolasi, tetapi reputasinya terus terakumulasi. Baik atau buruknya kinerja Agent akan tercatat, dan orang yang mengikatkan dirinya dengannya juga ikut bertanggung jawab.
Jadi, menurutku sekarang, masalahnya bukan lagi apakah AI itu pintar atau tidak, melainkan apakah kamu berani memberinya wewenang. Itulah yang coba diatasi Kite: soal “berani atau tidak”.
Bagaimana dengan kalian? Kalau benar-benar membiarkan Agent membayar secara otomatis, berapa batas maksimal yang berani kalian berikan? #KiteBBW $KITE
Sejujurnya, sekarang AI Agent sedang ramai dibicarakan—katanya bisa membantu memesankan hotel, menjalankan strategi, dan sebagainya. Tapi kalau benar-benar harus menyerahkan dompetku kepadanya, aku masih ragu.
Bukan karena takut ia bodoh, tapi takut ia bertindak sembarangan. Coba pikirkan: satu bug saja, atau ia sedikit saja terpengaruh bujukan orang, uang yang sudah ditransfer tidak akan bisa kembali. Selain itu, banyak Agent saat ini mengakses layanan dengan kunci yang berlaku lama. Hak aksesnya kelewat besar, rasanya seperti menggantung kunci rumah tepat di depan pintu.
Belakangan, setelah aku mempelajari Agent Passport dari Kite dengan serius, aku baru merasa bahwa masalah ini ada solusinya.
Konsepnya sebenarnya mirip cara perusahaan mengelola uang. Kamu adalah bosnya, memegang hak akses tertinggi, dan kunci privat tidak pernah diserahkan. Agent ibarat karyawan: ia punya identitas dan alamat sendiri, tetapi identitas ini diturunkan dari dompetmu, jadi kalau terjadi masalah, jejaknya bisa dilacak kembali kepadamu. Setiap kali melakukan tugas tertentu, berikan saja kunci sekali pakai yang bersifat sementara. Setelah tugas selesai, kuncinya langsung tidak berlaku.
Misalnya, aku memintanya membeli sejumlah data. Kunci itu hanya bisa digunakan di tempat yang ditentukan, untuk membelanjakan jumlah yang ditentukan, dalam jangka waktu yang ditentukan. Kalau membelanjakan satu sen lebih banyak saja, transaksi akan langsung diblokir di blockchain.
Menurutku, inilah intinya. Dulu, kita baru memeriksa pembukuan setelah terjadi masalah. Sekarang, kita mencegahnya melampaui batas sejak awal.
Ada satu detail lagi yang kusukai: uangnya terisolasi, tetapi reputasinya terus terakumulasi. Baik atau buruknya kinerja Agent akan tercatat, dan orang yang mengikatkan dirinya dengannya juga ikut bertanggung jawab.
Jadi, menurutku sekarang, masalahnya bukan lagi apakah AI itu pintar atau tidak, melainkan apakah kamu berani memberinya wewenang. Itulah yang coba diatasi Kite: soal “berani atau tidak”.
Bagaimana dengan kalian? Kalau benar-benar membiarkan Agent membayar secara otomatis, berapa batas maksimal yang berani kalian berikan? #KiteBBW $KITE