@Mira - Trust Layer of AI #Mira $MIRA
Mencoba Memperbaiki Salah Satu Masalah AI yang Paling Sunyi
Kecerdasan buatan terasa sangat kuat saat ini. Anda dapat mengajukan pertanyaan, meminta ringkasan, menghasilkan kode, atau menganalisis data, dan dalam beberapa detik, sistem AI menghasilkan sesuatu yang terlihat penuh pemikiran dan cerdas.
Tetapi ada realitas aneh di balik pengalaman ini.
Sistem AI sebenarnya tidak memahami informasi seperti cara manusia. Mereka memprediksi pola dalam bahasa. Sebagian besar waktu, prediksi tersebut terlihat benar. Terkadang, mereka benar-benar benar. Tetapi kadang-kadang sistem dengan percaya diri menghasilkan informasi yang sebenarnya tidak benar.
Jika Anda telah menggunakan alat AI cukup lama, Anda mungkin telah melihat ini terjadi. Sebuah model menciptakan statistik, salah mengutip sumber, atau menggambarkan suatu peristiwa yang tidak pernah terjadi. Jawabannya terlihat detail dan meyakinkan, namun itu salah.
Para peneliti menyebut ini halusinasi, tetapi di luar lingkaran teknis, orang biasanya hanya menyebutnya kesalahan AI.
Untuk tugas kasual, ini sebagian besar tidak berbahaya. Jika AI membantu menulis tweet atau menghasilkan ide, kesalahan sesekali bukanlah bencana. Tetapi saat AI mulai menyelami lebih dalam ke penelitian, keuangan, kesehatan, dan sistem otonom, keandalan dari jawaban ini menjadi jauh lebih penting.
Inilah masalah yang coba dipikirkan Jaringan Mira.
Alih-alih membangun model AI lain, Mira fokus pada sesuatu yang berbeda. Ia mencoba membangun sistem yang memeriksa keluaran AI sebelum orang bergantung padanya. Dengan kata lain, proyek ini kurang tentang menghasilkan kecerdasan dan lebih tentang memverifikasinya.
Kesenjangan Keandalan yang Tidak Pernah Dibahas Siapa Pun
Ada banyak kegembiraan di sekitar AI, tetapi juga ada celah yang tenang dalam tumpukan teknologi.
Kebanyakan orang berbicara tentang model yang lebih baik, GPU yang lebih cepat, dan aplikasi AI baru. Ini adalah bagian penting dari ekosistem. Tetapi masih belum ada sistem yang diterima secara luas yang memverifikasi apakah informasi yang dihasilkan AI benar-benar benar.
Saat ini, verifikasi biasanya terjadi dengan cara yang sangat sederhana. Seorang manusia membaca jawaban dan memutuskan apakah itu masuk akal.
Pendekatan itu bekerja ketika seseorang meninjau satu respons pada satu waktu. Tapi bayangkan masa depan di mana jutaan agen AI menghasilkan keputusan, laporan, atau instruksi setiap menit. Pemeriksaan manual tidak akan dapat skala di dunia itu.
Di sinilah ide Mira mulai masuk akal.
Proyek ini mengeksplorasi apakah keluaran AI dapat diverifikasi secara kolektif, menggunakan banyak sistem independen alih-alih bergantung pada satu.
Ini meminjam inspirasi dari bagaimana jaringan blockchain mengonfirmasi transaksi. Alih-alih mempercayai satu otoritas, sekelompok peserta yang terdistribusi mencapai kesepakatan melalui konsensus.
Mira mencoba menerapkan ide serupa pada pengetahuan.
Cara Berpikir yang Berbeda tentang Tumpukan AI
Untuk memahami peran yang ingin dimainkan Mira, ada baiknya melihat bagaimana ekosistem AI disusun.
Di dasar segalanya ada infrastruktur komputasi. GPU yang kuat dan pusat data menyediakan kekuatan pemrosesan mentah yang diperlukan untuk melatih dan menjalankan model.
Di atas itu ada model-model AI itu sendiri. Ini termasuk model bahasa, generator gambar, dan sistem khusus lainnya.
Di atas model-model ada aplikasi yang benar-benar berinteraksi dengan orang-orang. Chatbot, asisten pemrograman, alat penelitian, dan sistem otomatisasi semuanya berada di lapisan ini.
Tapi ada sesuatu yang hilang antara model dan aplikasi.
Tidak ada lapisan kepercayaan netral.
Aplikasi sering menerima jawaban apa pun yang dihasilkan model. Jika model salah, aplikasi hanya meneruskan kesalahan itu kepada pengguna.
Mira sedang mencoba mengisi celah ini.
Jaringan bertindak seperti titik pemeriksaan di mana informasi yang dihasilkan AI dapat dievaluasi sebelum menyebar lebih jauh ke dalam sistem.
Bagaimana Proses Verifikasi Terasa dalam Praktik
Detail teknis di balik Mira rumit, tetapi ide dasarnya cukup intuitif.
Bayangkan sebuah sistem AI menulis satu paragraf yang menjelaskan sebuah peristiwa sejarah. Paragraf itu mungkin berisi beberapa pernyataan fakta, seperti tahun, lokasi, atau statistik.
Alih-alih memperlakukan paragraf sebagai satu potongan informasi, Mira memecahnya menjadi klaim-klaim yang lebih kecil.
Setiap klaim menjadi sesuatu yang dapat dievaluasi oleh jaringan.
Node yang berbeda di jaringan menganalisis klaim-klaim tersebut secara independen. Setiap node mungkin mengandalkan model, dataset, atau alat evaluasi sendiri untuk menilai apakah pernyataan tersebut tampak benar.
Beberapa node mungkin mengatakan klaim tersebut tampak akurat. Yang lain mungkin mengatakan itu tidak pasti atau salah.
Setelah cukup banyak evaluasi diajukan, jaringan menggabungkan respons dan menentukan hasil konsensus.
Jika sebagian besar peserta setuju klaim tersebut benar, klaim itu lolos verifikasi. Jika jaringan melihat ketidaksetujuan, klaim dapat ditandai atau ditolak.
Proses ini menyerupai validasi blockchain dalam semangat. Alih-alih mengonfirmasi transaksi keuangan, sistem mengonfirmasi potongan informasi.
Mengapa Banyak Model AI Dapat Lebih Baik Daripada Online
Salah satu wawasan menarik di balik Mira adalah bahwa sistem AI cenderung membuat jenis kesalahan yang berbeda.
Sebuah model tunggal mungkin kesulitan dengan topik tertentu atau mengandalkan pola yang menghasilkan jawaban yang bias. Tetapi ketika beberapa model independen menganalisis klaim yang sama, kelemahan mereka sering saling menetralkan.
Jika sepuluh sistem berbeda memeriksa informasi yang sama dan sebagian besar dari mereka setuju dengan jawabannya, tingkat kepercayaan menjadi jauh lebih tinggi.
Ide ini mengalihkan fokus dari membangun model AI yang sempurna.
Sebagai gantinya, keandalan muncul dari koordinasi antara banyak yang tidak sempurna.
Dengan cara tertentu, jaringan memperlakukan kecerdasan sebagai proses kolektif.
Peran Token MIRA
Teknologi saja tidak menjaga jaringan terdesentralisasi tetap jujur. Insentif ekonomi biasanya diperlukan untuk membimbing perilaku.
Mira memperkenalkan token asli yang disebut MIRA yang memainkan peran ini.
Peserta yang ingin mengoperasikan node verifikasi harus mempertaruhkan token. Taruhan tersebut berfungsi sebagai bentuk jaminan.
Jika sebuah node memberikan evaluasi yang akurat, ia menerima imbalan. Jika ia terus berperilaku buruk atau mengirimkan hasil yang menyesatkan, taruhannya dapat dihukum.
Mekanisme ini mendorong peserta untuk bertindak jujur. Semakin dapat diandalkan sebuah node, semakin banyak manfaatnya dari tetap aktif di jaringan.
Token tersebut berfungsi sebagai lapisan keamanan dan alat koordinasi ekonomi. Memahami Ekonomi Token
Total pasokan token MIRA dibatasi pada satu miliar.
Bagian yang berbeda dari pasokan mendukung bagian yang berbeda dari ekosistem. Beberapa token dicadangkan untuk imbalan validator dan partisipasi jaringan jangka panjang. Lainnya mendukung pengembangan ekosistem, kontributor awal, dan kemitraan yang membantu pertumbuhan jaringan.
Token ini juga memiliki beberapa peran di dalam sistem.
Ini digunakan untuk staking dan keamanan jaringan.
Ini memungkinkan pengembang untuk membayar layanan verifikasi.
Ini memberikan hak tata kelola untuk keputusan protokol.
Semakin banyak aplikasi yang bergantung pada verifikasi, semakin banyak aktivitas yang mengalir melalui ekonomi token ini.
Ekosistem yang Mungkin Tumbuh di Sekitarnya
Protokol verifikasi hanya menjadi berarti ketika produk nyata mulai menggunakannya.
Mira sedang membangun alat pengembang yang memungkinkan aplikasi AI terhubung ke jaringan. Melalui API dan paket perangkat lunak, pengembang dapat mengarahkan respons AI melalui lapisan verifikasi sebelum menyajikannya kepada pengguna.
Ini bisa berguna dalam beberapa situasi.
Platform penelitian mungkin menggunakannya untuk memeriksa pernyataan faktual dalam ringkasan yang dihasilkan. Agen AI otonom mungkin bergantung padanya ketika membuat keputusan yang melibatkan nilai nyata. Platform pengetahuan dapat menggunakannya untuk meningkatkan keandalan jawaban.
Kemungkinan menarik lain muncul ketika agen AI berinteraksi dengan blockchain.
Jika sistem otonom mengelola dana, mengeksekusi perdagangan, atau berpartisipasi dalam tata kelola terdesentralisasi, informasi yang mengarahkan tindakan tersebut harus dapat diandalkan.
Jaringan verifikasi dapat berfungsi sebagai mekanisme keselamatan di lingkungan tersebut.
Ke mana Proyek Ini Mungkin Menuju
Seperti banyak proyek infrastruktur awal, Mira masih berkembang.
Tahap pertama fokus pada membangun protokol inti dan ekonomi token yang mendukungnya. Langkah selanjutnya tampaknya melibatkan memperkuat tata kelola, meningkatkan koordinasi node, dan memperluas alat pengembang.
Seiring waktu jaringan dapat bergerak melampaui verifikasi klaim individu dan mulai mengevaluasi proses penalaran yang lebih kompleks yang dihasilkan oleh sistem AI.
Dalam jangka panjang, mungkin bisa dibayangkan jaringan di mana mesin secara konstan memeriksa keluaran mesin lain.
Sistem semacam itu akan menciptakan umpan balik di mana kecerdasan dan verifikasi berkembang bersama.
Tantangan yang Dihadapi
Meskipun konsepnya menarik, jalan ke depan tidaklah sederhana.
Verifikasi memerlukan sumber daya komputasi. Menjalankan beberapa model untuk mengevaluasi setiap klaim bisa menjadi mahal jika jaringan tumbuh dengan cepat.
Kecepatan adalah tantangan lain. Setiap langkah verifikasi menambah waktu antara pertanyaan dan jawabannya. Jika prosesnya menjadi terlalu lambat, pengembang mungkin lebih memilih solusi yang lebih cepat meskipun kurang dapat diandalkan.
Ada juga tantangan filosofis yang lebih dalam untuk mendefinisikan kebenaran dalam konteks yang rumit. Beberapa informasi mudah diverifikasi, seperti tanggal atau data numerik. Informasi lain melibatkan interpretasi atau ketidakpastian.
Dan akhirnya ada pertanyaan tentang adopsi.
Infrastruktur hanya menjadi berharga ketika orang menggunakannya. Mira akan membutuhkan pengembang dan platform AI untuk mengintegrasikan lapisan verifikasi ke dalam alur kerja nyata.
Cara Berpikir yang Berbeda tentang AI
Apa yang membuat Mira menarik adalah perspektif di baliknya.
Banyak perusahaan AI fokus pada pembangunan model yang lebih besar dan lebih kuat, berharap bahwa data pelatihan yang lebih baik akhirnya akan menghilangkan halusinasi.
Mira mengeksplorasi kemungkinan lain.
Mungkin keandalan tidak berasal dari satu sistem yang sempurna.
Mungkin itu muncul ketika banyak sistem saling mengevaluasi dalam seperangkat aturan dan insentif yang dibagikan.
Ide ini sudah berfungsi di jaringan blockchain. Peserta yang terdistribusi berkoordinasi untuk mempertahankan buku besar yang terpercaya tanpa kontrol pusat.
Mira sedang bertanya apakah prinsip yang sama bisa berlaku untuk informasi itu sendiri.
Jika eksperimen itu berhasil, masa depan AI mungkin terlihat kurang seperti mesin super pintar tunggal dan lebih seperti jaringan sistem yang saling memeriksa satu sama lain.
Dalam jenis lingkungan itu, kepercayaan tidak akan datang dari otoritas.
Itu akan datang dari koordinasi.