Masalah keandalan yang terus tumbuh dalam kecerdasan buatan
Selama beberapa tahun terakhir, saya telah memperhatikan sesuatu yang menarik tentang kecerdasan buatan. Teknologi ini menjadi sangat kuat, tetapi pada saat yang sama ada masalah diam yang tidak banyak dibicarakan orang. AI dapat terdengar sangat percaya diri bahkan ketika ia salah. Siapa pun yang telah menggunakan alat AI modern mungkin telah mengalami ini. Anda mengajukan pertanyaan dan sistem memberikan jawaban yang jelas, kadang-kadang bahkan dengan penjelasan dan referensi. Namun kemudian Anda menyadari bahwa beberapa bagian dari jawaban itu salah.
Ini terjadi karena sebagian besar sistem AI bekerja dengan memprediksi kata berikutnya yang paling mungkin daripada membuktikan fakta. Mereka sangat baik dalam menghasilkan bahasa yang terlihat benar, tetapi itu tidak berarti informasi tersebut selalu akurat. Masalah ini sering disebut sebagai “halusinasi AI.” Bahkan model-model canggih masih menghasilkan informasi yang salah atau bias kadang-kadang, yang membuat mereka sulit dipercaya dalam bidang penting seperti keuangan, pendidikan, kesehatan, atau hukum.
Mengapa verifikasi mungkin lebih penting daripada kecerdasan
Konsep Mira menjadi lebih dapat dipahami setelah Anda mempertimbangkan cara manusia mengonfirmasi informasi. Dalam ilmu pengetahuan, seseorang hampir tidak dapat mempercayai sebuah pernyataan yang dibuat oleh individu. Pernyataan tersebut diuji oleh peneliti lain, mereproduksi eksperimen dan memverifikasi bukti. Tidak sampai klaim ini dibuktikan berulang kali bahwa ia menjadi pengetahuan yang diterima.
Mira berusaha untuk mentransfer nilai yang sebanding ke kecerdasan buatan. Keluaran model dari satu model tidak dipercaya secara otomatis dalam jaringan. Sebaliknya, ia memecah jawaban AI menjadi klaim-klaim yang lebih kecil yang dapat diverifikasi. Klaim-klaim ini kemudian diajukan kepada sejumlah model independen atau node verifikasi yang memeriksa mereka secara individu.
Apa yang menarik dalam desain ini adalah bahwa ia memandang kebenaran sebagai sesuatu yang muncul dari konsensus di antara berbagai sikap alih-alih dianggap sebagai sesuatu yang diinterpretasikan secara terpusat.
Tujuan dari desentralisasi sistem.
Aspek lain yang membuat Mira menonjol menurut saya adalah cara verifikasinya diatur. Jaringan tidak bergantung pada satu perusahaan atau server terpusat untuk melakukan verifikasi, tetapi pada sejumlah besar peserta independen. Para peserta ini menjalankan berbagai model AI dan klaim yang diajukan ke jaringan.
Organisasi yang terdesentralisasi ini penting karena menghilangkan kemungkinan favoritisme atau manipulasi. Ketika verifikasi dilakukan oleh satu organisasi, ada kemungkinan bahwa ia mungkin bias terhadap jawaban mana yang harus dianggap dapat diterima. Namun, begitu jumlah validator independen besar, hasilnya akan lebih seimbang.
Secara sederhana, Mira berusaha untuk membangun lapisan kepercayaan dengan kecerdasan buatan.
Motif yang membuat sistem ini jujur.
Insentif adalah salah satu hal yang tidak pernah saya abaikan ketika mempelajari proyek crypto. Teknologi jarang cukup. Sistem ini cenderung berfungsi, karena individu dihukum yang tidak bertindak dengan benar.
Mira mengusulkan sistem insentif token yang memotivasi para validator untuk mengirimkan verifikasi yang benar. Pemangku kepentingan dapat melakukan taruhan untuk bergabung dengan jaringan dan mendapatkan imbalan ketika mereka melakukan verifikasi dengan benar. Jika mereka menawarkan verifikasi yang lalai atau tidak jujur, sebagian dari taruhan mereka dapat hilang.
Pendekatan lain dalam memikirkan infrastruktur AI.
Semakin sedikit saya mempertimbangkan Mira, semakin ia tampak sebagai proyek infrastruktur dan bukan token crypto lainnya. Ini tidak bertujuan untuk membuat chatbot yang lebih baik atau model yang lebih pintar. Sebaliknya, ini berfokus pada sesuatu yang lebih dalam: memastikan keluaran AI dapat dipercaya.
Mira sedang mencari konsep bahwa bukan hanya kecerdasan yang cukup. Hal yang kita butuhkan adalah kecerdasan yang dapat kita andalkan.