Ada satu detail dalam arsitektur Newton Protocol yang membuat saya bolak-balik melihat diagramnya beberapa kali. Intuisi saya selama ini adalah bahwa sebuah sistem AI akan membuat keputusan, eksekusi terjadi, lalu barulah verifikasi berperan. Namun di Newton, AVS ditempatkan sebelum eksekusi. Awalnya saya mengira itu hanya langkah verifikasi tambahan. Semakin lama saya meneliti, semakin penjelasan itu terasa tidak masuk akal.
Jika tujuannya sekadar menambahkan lapisan keamanan lain, Newton bisa saja meletakkan AVS di akhir alur kerja untuk memverifikasi hasilnya. Sebaliknya, AVS tampak berada di tempat yang keputusan masih bisa ditolak. Posisi itu—lebih daripada mekanismenya sendiri—yang menarik perhatian saya.
Saat itulah saya menyadari bahwa saya selama ini memandang masalahnya dengan cara yang keliru. Newton tidak berusaha melindungi transaksi. Newton melindungi hak agar sebuah keputusan dapat berubah menjadi transaksi. Dengan memajukan titik intervensi, keamanan tidak lagi bereaksi terhadap konsekuensi. Keamanan mulai menyaring keputusan-keputusan yang menciptakan konsekuensi tersebut.
Hal ini menjadi semakin menarik jika dikaitkan dengan AI. Manusia masih bisa ragu sebelum mengklik “Konfirmasi.” AI tidak bisa. Setelah AI memiliki cukup data, jarak antara sebuah keputusan dan sebuah tindakan hampir tidak ada. Alih-alih membuat AI menjadi lebih cerdas, Newton justru mewajibkan AI membuktikan bahwa keputusannya pantas untuk dieksekusi.
Tentu saja, semuanya datang dengan trade-off. Semakin banyak kebijakan ditempatkan sebelum eksekusi, semakin kecil kebebasan AI untuk bereaksi secara instan. Peluang yang baik mungkin terlewat. Melihat desain Newton, hal itu terasa disengaja. Kehilangan sebuah peluang dianggap sebagai biaya yang lebih kecil dibanding mengizinkan keputusan yang keliru berubah menjadi tindakan.
Hal yang tetap melekat pada saya setelah mempelajari Newton Protocol bukanlah cara kerja AVS. Melainkan bagaimana AVS mengubah definisi saya tentang keamanan. Nilai keamanan tidak hanya terletak pada penanganan keputusan buruk setelah semuanya terjadi. Terkadang, nilai terbesarnya justru ada pada memastikan keputusan-keputusan itu tidak pernah diberi kesempatan untuk menjadi tindakan.
@NewtonProtocol $NEWT #Newt $LAB $T
Jika tujuannya sekadar menambahkan lapisan keamanan lain, Newton bisa saja meletakkan AVS di akhir alur kerja untuk memverifikasi hasilnya. Sebaliknya, AVS tampak berada di tempat yang keputusan masih bisa ditolak. Posisi itu—lebih daripada mekanismenya sendiri—yang menarik perhatian saya.
Saat itulah saya menyadari bahwa saya selama ini memandang masalahnya dengan cara yang keliru. Newton tidak berusaha melindungi transaksi. Newton melindungi hak agar sebuah keputusan dapat berubah menjadi transaksi. Dengan memajukan titik intervensi, keamanan tidak lagi bereaksi terhadap konsekuensi. Keamanan mulai menyaring keputusan-keputusan yang menciptakan konsekuensi tersebut.
Hal ini menjadi semakin menarik jika dikaitkan dengan AI. Manusia masih bisa ragu sebelum mengklik “Konfirmasi.” AI tidak bisa. Setelah AI memiliki cukup data, jarak antara sebuah keputusan dan sebuah tindakan hampir tidak ada. Alih-alih membuat AI menjadi lebih cerdas, Newton justru mewajibkan AI membuktikan bahwa keputusannya pantas untuk dieksekusi.
Tentu saja, semuanya datang dengan trade-off. Semakin banyak kebijakan ditempatkan sebelum eksekusi, semakin kecil kebebasan AI untuk bereaksi secara instan. Peluang yang baik mungkin terlewat. Melihat desain Newton, hal itu terasa disengaja. Kehilangan sebuah peluang dianggap sebagai biaya yang lebih kecil dibanding mengizinkan keputusan yang keliru berubah menjadi tindakan.
Hal yang tetap melekat pada saya setelah mempelajari Newton Protocol bukanlah cara kerja AVS. Melainkan bagaimana AVS mengubah definisi saya tentang keamanan. Nilai keamanan tidak hanya terletak pada penanganan keputusan buruk setelah semuanya terjadi. Terkadang, nilai terbesarnya justru ada pada memastikan keputusan-keputusan itu tidak pernah diberi kesempatan untuk menjadi tindakan.
@NewtonProtocol $NEWT #Newt $LAB $T