Satu detail tentang @Les Yankovitch terus menarik perhatian saya kembali.
Kita sering menganggap verifikasi hanya bernilai ketika sesuatu berjalan salah, tapi saya mulai berpikir peran terbesarnya muncul justru saat tidak ada yang terlihat salah sama sekali.
Bayangkan sebuah aplikasi AI menghasilkan jawaban yang sama ratusan kali berturut-turut. Kebanyakan pengguna akan berhenti mempertanyakan hasilnya karena konsistensi secara alami membangun kepercayaan. Namun, konsistensi saja tidak membuktikan bahwa perhitungan mengikuti model atau jalur eksekusi yang diharapkan. Ia hanya membuktikan bahwa keluarannya terlihat familiar.
Jika pengguna berhenti bertanya, "Apakah jawabannya bagus?" dan mulai bertanya, "Bisakah jawaban itu diverifikasi?", apakah itu akan mengubah cara kita menilai jaringan AI?
@Les Yankovitch $OPG
#OPG $SYN
$ACT
Kita sering menganggap verifikasi hanya bernilai ketika sesuatu berjalan salah, tapi saya mulai berpikir peran terbesarnya muncul justru saat tidak ada yang terlihat salah sama sekali.
Bayangkan sebuah aplikasi AI menghasilkan jawaban yang sama ratusan kali berturut-turut. Kebanyakan pengguna akan berhenti mempertanyakan hasilnya karena konsistensi secara alami membangun kepercayaan. Namun, konsistensi saja tidak membuktikan bahwa perhitungan mengikuti model atau jalur eksekusi yang diharapkan. Ia hanya membuktikan bahwa keluarannya terlihat familiar.
Jika pengguna berhenti bertanya, "Apakah jawabannya bagus?" dan mulai bertanya, "Bisakah jawaban itu diverifikasi?", apakah itu akan mengubah cara kita menilai jaringan AI?
@Les Yankovitch $OPG
#OPG $SYN
$ACT