Vitalik Buterin, pendiri Ethereum, memberikan perspektifnya tentang perdebatan yang semakin berkembang: risiko kecerdasan buatan (AI).
Pada kesempatan ini, pengembang Rusia-Kanada memanfaatkan sebuah refleksi yang dibagikan di X oleh Eito Muyamura, promoter proyek Jam Edison, sebuah solusi untuk memantau dan mencegah kebocoran data melalui interaksi AI.
Ini lahir dari pengenalan baru Protokol Konteks Model (MCP) oleh OpenAI, perusahaan yang dipimpin oleh Sam Altman, di ChatGPT, yang memungkinkan untuk terhubung ke Gmail, kalender, dan aplikasi lainnya.
Melalui sebuah video, Muyamura mendemonstrasikan bagaimana penyerang atau peretas dapat mengakses data pribadi yang dibagikan dengan OpenAI.
“Inilah masalah mendasarnya: agen AI seperti ChatGPT mengikuti perintah Anda, bukan akal sehat Anda. Dan hanya dengan alamat email Anda, kami dapat membocorkan semua informasi pribadi Anda,” catat Muyamura, menambahkan, “Ingat, AI mungkin sangat pintar, tetapi dapat ditipu dan dipancing dengan cara yang sangat bodoh untuk membocorkan datanya.”
Buterin membagikan pos tersebut di akun X-nya dan memanfaatkan kesempatan itu untuk memberikan pendapatnya tentang masalah tersebut. “Inilah juga mengapa 'tata kelola AI' yang naif adalah ide yang buruk. Jika Anda menggunakan AI untuk mengalokasikan dana untuk kontribusi, orang-orang akan jailbreak dan 'berikan semua uang kepada saya' sebanyak mungkin tempat yang mereka bisa,” katanya.
“Tata kelola AI” mengacu pada sistem yang membuat keputusan otomatis tentang sumber daya atau tindakan, misalnya, mengalokasikan dana atau mendefinisikan kontribusi, berdasarkan aturan AI. Buterin tidak menggunakan istilah “naif” secara kebetulan; sebaliknya, ini menekankan risiko mengasumsikan bahwa pengguna akan selalu memberikan perintah yang benar kepada AI, ketika pada kenyataannya, mereka dapat mengeksploitasi sistem melalui “jailbreak” untuk menghindari pembatasan dan mendapatkan manfaat yang tidak semestinya.
Perlu dijelaskan bahwa "jailbreaking" mengacu pada teknik di mana peretas menipu model AI untuk mengabaikan batasan keamanan atau kebijakan internal, misalnya, meminta tindakan yang seharusnya dilarang.
Artinya, bagi pendiri Ethereum, ada risiko nyata dalam mentransfer tata kelola protokol terdesentralisasi kepada AI. Sebagai contoh, seperti yang dijelaskan dalam platform DeFi, keputusan biasanya dibuat melalui pemungutan suara komunitas, umumnya oleh mereka yang memiliki token atau memenuhi kriteria tertentu, dan mencakup perubahan, perbaikan, atau tindakan yang akan diambil dalam protokol.
Tetapi jika model tata kelola berbasis AI diterapkan, itu membuka pintu untuk potensi manipulasi yang dapat menghasilkan manfaat yang tidak semestinya, seperti pencurian uang atau data pribadi.
Sebagai alternatif, Buterin menyatakan bahwa dia "mendukung pendekatan pendanaan informasi, di mana ada pasar terbuka di mana siapa pun dapat menyumbangkan model mereka, yang akan melalui mekanisme tinjauan sejawat yang dapat diaktifkan oleh siapa pun dan dievaluasi oleh juri manusia."
Dia lebih lanjut menjelaskan:
Jenis pendekatan "desain institusional" ini, di mana kesempatan terbuka diciptakan bagi pihak luar untuk menyambungkan LLM mereka (model bahasa besar) daripada memprogram sendiri secara kaku, secara inheren lebih kuat. Ini karena memberikan keragaman model waktu nyata dan karena menciptakan insentif internal bagi baik kontributor model maupun spekulan luar untuk waspada terhadap masalah ini dan memperbaikinya dengan cepat.
Vitalik Buterin, pencipta Ethereum.
Dalam pendekatan ini, berbagai peserta dapat menyumbangkan model keputusan mereka, yang kemudian diverifikasi dan dievaluasi oleh juri manusia.
Keuntungannya adalah bahwa ini mendorong keberagaman ide, memungkinkan koreksi kesalahan yang cepat, dan menciptakan insentif bagi pembuat model dan anggota komunitas untuk tetap waspada dan bertanggung jawab. Tujuannya adalah untuk mencapai tata kelola yang lebih terdistribusi dan dinamis, menghindari ketergantungan pada satu model terpusat.
