Fitur Paling Berharga dalam AI Mungkin Adalah Tombol Batal
Satu pemikiran terus menarik saya kembali setiap kali saya membaca tentang agen AI. Kita menghabiskan begitu banyak waktu membahas seberapa besar otoritas yang seharusnya diberikan kepada sebuah agen. Saya jarang melihat pertanyaan kebalikannya mendapat perhatian yang setara: seberapa mudah otoritas itu harus bisa menghilang?
Semakin saya memikirkannya, semakin saya yakin bahwa otoritas permanen adalah jalan pintas desain. Itu terasa nyaman sampai dunia berubah. Niat pengguna berubah. Risiko berubah. Prioritas berubah. Sistem AI yang hanya bisa memperoleh otoritas tetapi kesulitan untuk melepaskannya perlahan-lahan menjauh dari orang yang seharusnya diwakilinya.
Bagian dari Newton itulah yang paling melekat pada saya. Mekanisme Pencabutan Izin-nya bukan sekadar fitur keamanan lain. Ia diam-diam memperlakukan otoritas sebagai sesuatu yang sementara, bukan permanen. Bagi saya, itu sebuah filosofi yang berbeda. Kepercayaan berhenti menjadi keputusan sekali pakai dan mulai menjadi sesuatu yang bisa berkembang kapan pun pengguna berubah pikiran.
Saya pikir gagasan ini melampaui satu protokol saja. Saat agen AI mulai menangani pembayaran, investasi, dan keputusan-keputusan sehari-hari, kecerdasan semata tidak akan menentukan apakah orang akan mempercayai mereka. Kemampuan untuk menarik otoritas tanpa hambatan mungkin menjadi sama pentingnya dengan kemampuan untuk memberikannya sejak awal.
Tentu saja, sistem yang bisa dibatalkan akan memperkenalkan koordinasi dan manajemen status tambahan. Kesederhanaan biasanya mendukung izin permanen. Keamanan jarang melakukannya.
Saya mulai berpikir masa depan tidak akan dimiliki oleh AI dengan otoritas paling besar. Masa depan akan dimiliki oleh AI yang memahami bahwa otoritasnya selalu dipinjam, tidak pernah dimiliki.@NewtonProtocol #newt $NEWT $VANRY $BLUR
Satu pemikiran terus menarik saya kembali setiap kali saya membaca tentang agen AI. Kita menghabiskan begitu banyak waktu membahas seberapa besar otoritas yang seharusnya diberikan kepada sebuah agen. Saya jarang melihat pertanyaan kebalikannya mendapat perhatian yang setara: seberapa mudah otoritas itu harus bisa menghilang?
Semakin saya memikirkannya, semakin saya yakin bahwa otoritas permanen adalah jalan pintas desain. Itu terasa nyaman sampai dunia berubah. Niat pengguna berubah. Risiko berubah. Prioritas berubah. Sistem AI yang hanya bisa memperoleh otoritas tetapi kesulitan untuk melepaskannya perlahan-lahan menjauh dari orang yang seharusnya diwakilinya.
Bagian dari Newton itulah yang paling melekat pada saya. Mekanisme Pencabutan Izin-nya bukan sekadar fitur keamanan lain. Ia diam-diam memperlakukan otoritas sebagai sesuatu yang sementara, bukan permanen. Bagi saya, itu sebuah filosofi yang berbeda. Kepercayaan berhenti menjadi keputusan sekali pakai dan mulai menjadi sesuatu yang bisa berkembang kapan pun pengguna berubah pikiran.
Saya pikir gagasan ini melampaui satu protokol saja. Saat agen AI mulai menangani pembayaran, investasi, dan keputusan-keputusan sehari-hari, kecerdasan semata tidak akan menentukan apakah orang akan mempercayai mereka. Kemampuan untuk menarik otoritas tanpa hambatan mungkin menjadi sama pentingnya dengan kemampuan untuk memberikannya sejak awal.
Tentu saja, sistem yang bisa dibatalkan akan memperkenalkan koordinasi dan manajemen status tambahan. Kesederhanaan biasanya mendukung izin permanen. Keamanan jarang melakukannya.
Saya mulai berpikir masa depan tidak akan dimiliki oleh AI dengan otoritas paling besar. Masa depan akan dimiliki oleh AI yang memahami bahwa otoritasnya selalu dipinjam, tidak pernah dimiliki.@NewtonProtocol #newt $NEWT $VANRY $BLUR