Beberapa hari yang lalu, saya membaca artikel tentang keamanan perangkat lunak sumber terbuka. Satu poin membuat saya terus memikirkannya. Ketika ribuan pengembang bergantung pada potongan kode yang sama, keunggulan terbesarnya jelas: tidak ada yang perlu menemukan roda dari awal. Namun jika kode yang dibagikan itu menyembunyikan kerentanan yang belum disadari siapa pun, masalahnya tidak tetap terisolasi. Masalah itu menyebar ke semua orang yang menggunakannya.
Itu membuat saya memikirkan @NewtonProtocol dengan cara yang berbeda.
Kebanyakan diskusi seputar Policy Economy-nya berfokus pada kecepatan dan efisiensi, dan itu masuk akal. Jika ada kebijakan yang andal, pengembang tidak perlu menulis logika yang sama dari nol. Itu menghemat waktu, mengurangi biaya, dan membantu sistem AI menjadi lebih konsisten.
Tapi ada pertanyaan lain yang terlintas.
Apa yang terjadi ketika ribuan agen AI mulai mengandalkan kebijakan yang sama persis?
Mungkin tidak ada yang salah. Namun jika kebijakan itu memuat cacat yang belum ditemukan, masalahnya tidak lagi terbatas pada satu pengguna atau satu aplikasi. Masalah itu bisa memengaruhi seluruh ekosistem pada saat yang bersamaan. Kami pernah melihat situasi serupa di dunia perangkat lunak, ketika satu kerentanan dalam pustaka yang banyak digunakan akhirnya berdampak pada tak terhitung banyak proyek.
Menurut saya, diskusi yang sesungguhnya bukanlah tentang mencegah kebijakan untuk disalin. Jika setiap pengembang harus membuat semuanya dari awal, seluruh gagasan tentang Policy Economy akan kehilangan banyak nilainya.
Pertanyaan yang lebih penting adalah apakah jaringan dapat mengenali kapan sebuah kebijakan telah diadopsi begitu luas hingga mulai merepresentasikan konsentrasi risiko.
Itulah sebabnya saya tidak berpikir $NEWT seharusnya dinilai hanya dari berapa banyak kebijakan yang ada di jaringan. Ukuran yang lebih baik adalah apakah protokol dapat mengidentifikasi dan memantau risiko sistemik ketika terlalu banyak agen AI bergantung pada kebijakan yang sama.
Hal itu mungkin ternyata menjadi salah satu kualitas yang membedakan Policy Economy yang dapat diskalakan dari yang tahan terhadap gangguan.#Newt
$ESPORTS
$TAG
Itu membuat saya memikirkan @NewtonProtocol dengan cara yang berbeda.
Kebanyakan diskusi seputar Policy Economy-nya berfokus pada kecepatan dan efisiensi, dan itu masuk akal. Jika ada kebijakan yang andal, pengembang tidak perlu menulis logika yang sama dari nol. Itu menghemat waktu, mengurangi biaya, dan membantu sistem AI menjadi lebih konsisten.
Tapi ada pertanyaan lain yang terlintas.
Apa yang terjadi ketika ribuan agen AI mulai mengandalkan kebijakan yang sama persis?
Mungkin tidak ada yang salah. Namun jika kebijakan itu memuat cacat yang belum ditemukan, masalahnya tidak lagi terbatas pada satu pengguna atau satu aplikasi. Masalah itu bisa memengaruhi seluruh ekosistem pada saat yang bersamaan. Kami pernah melihat situasi serupa di dunia perangkat lunak, ketika satu kerentanan dalam pustaka yang banyak digunakan akhirnya berdampak pada tak terhitung banyak proyek.
Menurut saya, diskusi yang sesungguhnya bukanlah tentang mencegah kebijakan untuk disalin. Jika setiap pengembang harus membuat semuanya dari awal, seluruh gagasan tentang Policy Economy akan kehilangan banyak nilainya.
Pertanyaan yang lebih penting adalah apakah jaringan dapat mengenali kapan sebuah kebijakan telah diadopsi begitu luas hingga mulai merepresentasikan konsentrasi risiko.
Itulah sebabnya saya tidak berpikir $NEWT seharusnya dinilai hanya dari berapa banyak kebijakan yang ada di jaringan. Ukuran yang lebih baik adalah apakah protokol dapat mengidentifikasi dan memantau risiko sistemik ketika terlalu banyak agen AI bergantung pada kebijakan yang sama.
Hal itu mungkin ternyata menjadi salah satu kualitas yang membedakan Policy Economy yang dapat diskalakan dari yang tahan terhadap gangguan.#Newt
$ESPORTS
$TAG
