Saya dulu berpikir bahwa masalah kepercayaan dalam AI adalah tentang tingkat akurasi.
Mira membuatnya terasa lebih seperti masalah tanggung jawab.
Ketika sebuah sistem AI melakukan kesalahan, kerusakan tidak bersifat statistik, itu kontraktual. Seseorang bertindak berdasarkan hasil itu. Seseorang menyetujuinya. Seseorang bertanggung jawab atas konsekuensinya.
Menariknya tentang arah Mira adalah bahwa ia tidak hanya bertanya apakah sebuah jawaban kemungkinan besar benar. Ia bertanya apakah proses penerimaan jawaban tersebut dapat dipertahankan.
Itu adalah perubahan halus tetapi penting.
Akurasi meningkatkan model.
Dapat dipertahankan meningkatkan sistem.
Seiring AI bergerak ke arah keuangan, kepatuhan, dan alur kerja dengan otomatisasi tinggi, "kemungkinan besar benar" tidak akan cukup. Yang penting adalah apakah keluaran melewati struktur yang mendistribusikan risiko alih-alih mengonsentrasikannya.
Masa depan adopsi AI tidak akan bergantung pada teks yang lebih cerdas.
Itu akan bergantung pada siapa yang dapat mengatakan, dengan percaya diri,
"Ini telah diverifikasi berdasarkan aturan yang disepakati oleh kita semua."
@Mira - Trust Layer of AI - Trust Layer of AI#mira $MIRA