Saya masuk ke Newton Protocol dengan harapan akan mendapatkan percakapan lain tentang otomatisasi AI yang lebih cepat. Saya keluar dengan memikirkan sesuatu yang sama sekali berbeda.
Semakin banyak saya membaca, semakin saya menyadari bahwa Newton sebenarnya tidak sedang menanyakan, "Bisakah agen AI bertindak?" Ia justru menanyakan, "Hal apa yang seharusnya diizinkan untuk dilakukan oleh agen AI sebelum ia bertindak?"
Perbedaan itu penting.
Saya pikir industri ini terlalu nyaman memperlakukan "terverifikasi" seolah itu otomatis berarti "benar." Itu tidak demikian.
Bukti kriptografis dapat menunjukkan bahwa sebuah agen mengikuti izinnya persis seperti yang tertulis. Bukannya membuktikan bahwa penilaian yang mendasarinya cerdas, atau bahwa kebijakan itu sendiri telah mencakup semua kemungkinan tepi.
Bagi saya, di sinilah tantangan sesungguhnya dimulai.
Jika kepercayaan dipindahkan dari manusia ke dalam kebijakan, maka kebijakan-kebijakan itu menjadi salah satu bagian paling penting dari sistem. Dan jika tata kelola bertanggung jawab dalam membentuk kebijakan-kebijakan tersebut, maka tata kelola tidak lagi sekadar soal pemungutan suara. Ini tentang memutuskan kesalahan seperti apa yang sistem diizinkan untuk membuat.
Itulah mengapa Newton Protocol menarik perhatian saya. Bukan karena ia menjanjikan otomatisasi yang sempurna, melainkan karena ia menyingkap pertanyaan yang lebih mendalam yang menurut saya baru mulai dicoba dihadapi oleh industri.
Saat agen AI memperoleh otoritas lebih besar atas modal, saya tidak yakin risiko terbesar adalah apakah mereka mengikuti aturan.
Saya pikir pertanyaan yang lebih besar adalah apakah kita menuliskan aturan yang tepat sejak awal.
$EVAA
$OGN
$NEWT
@NewtonProtocol #Newt #newt
Semakin banyak saya membaca, semakin saya menyadari bahwa Newton sebenarnya tidak sedang menanyakan, "Bisakah agen AI bertindak?" Ia justru menanyakan, "Hal apa yang seharusnya diizinkan untuk dilakukan oleh agen AI sebelum ia bertindak?"
Perbedaan itu penting.
Saya pikir industri ini terlalu nyaman memperlakukan "terverifikasi" seolah itu otomatis berarti "benar." Itu tidak demikian.
Bukti kriptografis dapat menunjukkan bahwa sebuah agen mengikuti izinnya persis seperti yang tertulis. Bukannya membuktikan bahwa penilaian yang mendasarinya cerdas, atau bahwa kebijakan itu sendiri telah mencakup semua kemungkinan tepi.
Bagi saya, di sinilah tantangan sesungguhnya dimulai.
Jika kepercayaan dipindahkan dari manusia ke dalam kebijakan, maka kebijakan-kebijakan itu menjadi salah satu bagian paling penting dari sistem. Dan jika tata kelola bertanggung jawab dalam membentuk kebijakan-kebijakan tersebut, maka tata kelola tidak lagi sekadar soal pemungutan suara. Ini tentang memutuskan kesalahan seperti apa yang sistem diizinkan untuk membuat.
Itulah mengapa Newton Protocol menarik perhatian saya. Bukan karena ia menjanjikan otomatisasi yang sempurna, melainkan karena ia menyingkap pertanyaan yang lebih mendalam yang menurut saya baru mulai dicoba dihadapi oleh industri.
Saat agen AI memperoleh otoritas lebih besar atas modal, saya tidak yakin risiko terbesar adalah apakah mereka mengikuti aturan.
Saya pikir pertanyaan yang lebih besar adalah apakah kita menuliskan aturan yang tepat sejak awal.
$EVAA
$OGN
$NEWT
@NewtonProtocol #Newt #newt
