Saya sudah memikirkan betapa mudahnya kita menggunakan kata “kepercayaan” saat membicarakan agen AI.
Dalam Newton Protocol, bagian yang paling menonjol bagi saya adalah otorisasi berbasis kebijakan: gagasan bahwa seorang agen tidak sekadar “bertindak atas nama saya,” tetapi beroperasi di dalam batas yang eksplisit dan dapat diverifikasi.
Ini terasa penting dari perspektif sistem. Dalam perangkat lunak, kepercayaan biasanya menurun ketika terlalu banyak hal dibiarkan tersirat. Agen dengan izin yang luas menjadi sulit untuk dipahami, meskipun antarmukanya terasa sederhana.
Namun ketika izin, batasan, dan pencabutan diperlakukan sebagai infrastruktur inti, model kepercayaannya berubah. Model ini menjadi kurang tentang percaya bahwa agen akan berperilaku baik dan lebih tentang menentukan apa yang secara teknis diizinkan untuk dilakukan.
Perbedaan itu terasa kecil pada awalnya, tetapi mungkin sangat berarti.
#Newt @NewtonProtocol $NEWT
Dalam Newton Protocol, bagian yang paling menonjol bagi saya adalah otorisasi berbasis kebijakan: gagasan bahwa seorang agen tidak sekadar “bertindak atas nama saya,” tetapi beroperasi di dalam batas yang eksplisit dan dapat diverifikasi.
Ini terasa penting dari perspektif sistem. Dalam perangkat lunak, kepercayaan biasanya menurun ketika terlalu banyak hal dibiarkan tersirat. Agen dengan izin yang luas menjadi sulit untuk dipahami, meskipun antarmukanya terasa sederhana.
Namun ketika izin, batasan, dan pencabutan diperlakukan sebagai infrastruktur inti, model kepercayaannya berubah. Model ini menjadi kurang tentang percaya bahwa agen akan berperilaku baik dan lebih tentang menentukan apa yang secara teknis diizinkan untuk dilakukan.
Perbedaan itu terasa kecil pada awalnya, tetapi mungkin sangat berarti.
#Newt @NewtonProtocol $NEWT