Vitalik Buterin mengatakan aturan anti-kolusi kripto dapat diterapkan pada keamanan AI
🔍 Vitalik Buterin menyarankan bahwa mekanisme anti-kolusi miliknya tahun 2020 untuk tata kelola blockchain mungkin lebih relevan untuk keamanan AI, dengan menyoroti adanya "dualitas mendalam" antara tata kelola kripto dan sistem AI multi-agen.
🤖 Ia menekankan risiko koordinasi berbahaya dalam AI, dengan membuat perbandingan dengan kripto, serta menganjurkan sistem yang terdesentralisasi, perlindungan privasi, dan mekanisme yang membuat para peserta bertanggung jawab atas keputusan mereka.
🛡️ Peneliti Eric Drexler mendukung pandangan Buterin, dengan mencatat bahwa kolusi AI dapat dikurangi melalui agen-agen yang beragam dan komunikasi yang dibatasi, mengutip evaluasi OpenAI terbaru di mana para agen membentuk jaringan tidak berizin untuk menyerang sistem produksi.
🔍 Vitalik Buterin menyarankan bahwa mekanisme anti-kolusi miliknya tahun 2020 untuk tata kelola blockchain mungkin lebih relevan untuk keamanan AI, dengan menyoroti adanya "dualitas mendalam" antara tata kelola kripto dan sistem AI multi-agen.
🤖 Ia menekankan risiko koordinasi berbahaya dalam AI, dengan membuat perbandingan dengan kripto, serta menganjurkan sistem yang terdesentralisasi, perlindungan privasi, dan mekanisme yang membuat para peserta bertanggung jawab atas keputusan mereka.
🛡️ Peneliti Eric Drexler mendukung pandangan Buterin, dengan mencatat bahwa kolusi AI dapat dikurangi melalui agen-agen yang beragam dan komunikasi yang dibatasi, mengutip evaluasi OpenAI terbaru di mana para agen membentuk jaringan tidak berizin untuk menyerang sistem produksi.