Semakin saya menggunakan AI, semakin saya menyadari bahwa masalah sebenarnya bukanlah "AI terkadang salah."
Masalahnya adalah AI dapat salah dengan percaya diri - dan manusia secara alami mempercayai kepercayaan diri ketika mereka sibuk.
Itulah sebabnya @Mira - Trust Layer of AI menonjol bagi saya.
Alih-alih mencoba membangun satu "model sempurna," ide Mira lebih praktis: perlakukan keluaran AI seperti klaim yang perlu diperiksa. Jadi daripada menerima satu jawaban yang dipoles, sistem dapat membaginya menjadi pernyataan yang lebih kecil dan menjalankan itu melalui verifikasi - menggunakan beberapa validator/model independen - sebelum menyebutnya dapat dipercaya.
Dan alasan ini penting sangat sederhana: AI sedang bergerak melampaui konten. Ia bergerak ke dalam pengambilan keputusan - keuangan, penelitian, otomatisasi, bahkan dukungan kesehatan. Di ruang-ruang tersebut, kecepatan tidak ada gunanya jika keluaran tidak dapat dipercaya.
Apa yang saya suka tentang arah Mira adalah bahwa ia memperlakukan kepercayaan sebagai masalah koordinasi, bukan janji pemasaran. Jika berhasil, itu tidak membuat AI "sempurna"... itu membuat AI lebih aman untuk diandalkan.