Dulu saya mengira izin adalah sesuatu yang secara aktif dikelola orang.
Semakin saya mengamati cara kerja perangkat lunak, semakin saya menyadari bahwa sebagian besar izin hanya menjadi sesuatu yang tidak terlihat.
Persetujuan pertama selalu terasa penting. Orang membaca promptnya, ragu, mungkin bahkan memeriksa ulang alamat.
Persetujuan kesepuluh terasa rutin.
Lama-lama, izin itu sendiri menghilang dari perhatian, sementara tindakan yang diizinkannya terus berjalan diam-diam di latar belakang.
Itulah yang membuat saya bertanya-tanya apakah tujuan sebenarnya dari otorisasi bukanlah menghentikan tindakan buruk.
Mungkin tujuannya adalah mengingatkan bahwa keputusan-keputusan lama masih dapat membentuk hasil yang baru.
Saat AI mulai bertindak lebih sering atas nama kita, masalah tersulit mungkin bukan memutuskan apa yang boleh dilakukan sebuah agen.
Mungkin justru mengingat mengapa kita mengizinkannya sejak awal.
Perubahan cara pandang itu salah satu alasan Newton Protocol menarik perhatian saya.
@NewtonProtocol
$NEWT #Newt
Semakin saya mengamati cara kerja perangkat lunak, semakin saya menyadari bahwa sebagian besar izin hanya menjadi sesuatu yang tidak terlihat.
Persetujuan pertama selalu terasa penting. Orang membaca promptnya, ragu, mungkin bahkan memeriksa ulang alamat.
Persetujuan kesepuluh terasa rutin.
Lama-lama, izin itu sendiri menghilang dari perhatian, sementara tindakan yang diizinkannya terus berjalan diam-diam di latar belakang.
Itulah yang membuat saya bertanya-tanya apakah tujuan sebenarnya dari otorisasi bukanlah menghentikan tindakan buruk.
Mungkin tujuannya adalah mengingatkan bahwa keputusan-keputusan lama masih dapat membentuk hasil yang baru.
Saat AI mulai bertindak lebih sering atas nama kita, masalah tersulit mungkin bukan memutuskan apa yang boleh dilakukan sebuah agen.
Mungkin justru mengingat mengapa kita mengizinkannya sejak awal.
Perubahan cara pandang itu salah satu alasan Newton Protocol menarik perhatian saya.
@NewtonProtocol
$NEWT #Newt