Bisakah Newton Membuat Izin AI Lebih Mudah Dicabut daripada Diberikan?
Saya terus memikirkan apa yang terjadi setelah seseorang memberikan izin kepada agen AI untuk bertindak.
Kebanyakan pembahasan berfokus pada bagaimana izin diberikan, tetapi bagaimana jika situasinya berubah?
Strategi trading tidak lagi masuk akal. Pemilik dompet kehilangan kepercayaan pada agen AI. Sebuah kebijakan perlu menjadi lebih ketat setelah risiko baru ditemukan.
Tantangan sesungguhnya mungkin bukan pada memberi izin.
Melainkan mengubah atau mencabutnya dengan aman.
Dari yang saya baca, Newton Protocol dirancang dengan otorisasi berbasis kebijakan (policy-based authorization) daripada delegasi tanpa batas. Aksi yang dilindungi memerlukan validasi kebijakan sebelum dieksekusi, sehingga izin dapat diperbarui dari waktu ke waktu, bukan dibiarkan dipercaya secara permanen.
Hal itu terasa sebagai pilihan desain yang penting.
Keamanan bukan hanya soal menentukan siapa yang boleh bertindak saat ini.
Keamanan juga tentang membuat keputusan besok mudah untuk diubah.
Pada saat yang sama, mengubah kebijakan tidak otomatis menjamin hasil yang lebih baik.
Kebijakan yang dirancang buruk tetap bisa menimbulkan gesekan yang tidak perlu, sementara kebijakan yang terlalu longgar bisa membuat pengguna terekspos pada risiko yang tidak mereka niatkan untuk diterima.
Teknologi bisa menegakkan aturan.
Namun teknologi tidak bisa memutuskan apakah aturan itu sendiri merupakan aturan yang tepat.
Bagi saya, di sinilah Newton menjadi menarik.
Nilai jangka panjang mungkin datang lebih sedikit dari otomatisasi itu sendiri, dan lebih banyak dari memberi pengguna keyakinan bahwa otomatisasi tetap berada dalam kendali mereka saat kondisi berubah.
Bagaimana pendapat Anda? Saat agen AI menjadi semakin mampu, apakah kemampuan untuk memperbarui atau mencabut izin akan menjadi sama pentingnya dengan pemberian izin itu sendiri?
@NewtonProtocol
$NEWT #Newt #newt
Saya terus memikirkan apa yang terjadi setelah seseorang memberikan izin kepada agen AI untuk bertindak.
Kebanyakan pembahasan berfokus pada bagaimana izin diberikan, tetapi bagaimana jika situasinya berubah?
Strategi trading tidak lagi masuk akal. Pemilik dompet kehilangan kepercayaan pada agen AI. Sebuah kebijakan perlu menjadi lebih ketat setelah risiko baru ditemukan.
Tantangan sesungguhnya mungkin bukan pada memberi izin.
Melainkan mengubah atau mencabutnya dengan aman.
Dari yang saya baca, Newton Protocol dirancang dengan otorisasi berbasis kebijakan (policy-based authorization) daripada delegasi tanpa batas. Aksi yang dilindungi memerlukan validasi kebijakan sebelum dieksekusi, sehingga izin dapat diperbarui dari waktu ke waktu, bukan dibiarkan dipercaya secara permanen.
Hal itu terasa sebagai pilihan desain yang penting.
Keamanan bukan hanya soal menentukan siapa yang boleh bertindak saat ini.
Keamanan juga tentang membuat keputusan besok mudah untuk diubah.
Pada saat yang sama, mengubah kebijakan tidak otomatis menjamin hasil yang lebih baik.
Kebijakan yang dirancang buruk tetap bisa menimbulkan gesekan yang tidak perlu, sementara kebijakan yang terlalu longgar bisa membuat pengguna terekspos pada risiko yang tidak mereka niatkan untuk diterima.
Teknologi bisa menegakkan aturan.
Namun teknologi tidak bisa memutuskan apakah aturan itu sendiri merupakan aturan yang tepat.
Bagi saya, di sinilah Newton menjadi menarik.
Nilai jangka panjang mungkin datang lebih sedikit dari otomatisasi itu sendiri, dan lebih banyak dari memberi pengguna keyakinan bahwa otomatisasi tetap berada dalam kendali mereka saat kondisi berubah.
Bagaimana pendapat Anda? Saat agen AI menjadi semakin mampu, apakah kemampuan untuk memperbarui atau mencabut izin akan menjadi sama pentingnya dengan pemberian izin itu sendiri?
@NewtonProtocol
$NEWT #Newt #newt