Kita terus bertanya "seberapa cepat AI ini?" padahal mungkin kita seharusnya bertanya "apa aku benar-benar bisa mempercayai apa yang baru saja AI itu katakan padaku?"
Ada seorang pembuat jam tua di dekat toko kakekku. Orang-orang dulu membawa arloji ke dia yang sudah ditangani perbaikan oleh tukang lain dan mereka menyerah. Dia tidak pernah terburu-buru. Sebelum menyentuh satu roda gigi pun, dia akan membuka casingnya dan hanya mengamati—kadang sampai sepuluh menit penuh. Suatu kali aku bertanya kenapa dia tidak langsung mulai memperbaikinya. Dia berkata, "Kalau aku tidak mengerti mengapa itu rusak, aku tidak bisa percaya pada apa yang aku perbaiki."
Itu lebih membekas daripada yang pernah kupikirkan.
Para pembuat arloji yang bertahan selama puluhan tahun bukanlah yang paling cepat di kota. Mereka adalah yang karyanya tidak pernah perlu kamu periksa dua kali.
Sekarang kita justru melakukan hal yang sebaliknya dengan AI. Model jadi lebih cepat, hasilnya makin terdengar lebih yakin, dan entah di titik mana kita berhenti bertanya bagaimana jawaban itu dicapai. Kita saja mempercayai kotak hitamnya karena terdengar benar.
Itulah salah satu alasan aku mulai membaca lebih banyak tentang @NewtonProtocol . Alih-alih hanya mengejar performa, mereka membangun infrastruktur AI tempat keluaran bisa benar-benar diverifikasi di blockchain, bukan sekadar dipercaya secara membabi buta.
Mungkin aku salah, dan pada akhirnya kecepatan selalu menang. Tapi setiap kali aku melihat lagi judul "terobosan AI", aku mendapati diriku bertanya lebih sedikit tentang seberapa cepat itu, dan lebih banyak tentang apakah aku benar-benar akan mempercayai jawabannya untuk sesuatu yang penting.
Mungkin terobosan terbesar dalam AI bukanlah model yang lebih cepat. Mungkin terobosan itu adalah sesuatu yang akhirnya bisa kita verifikasi.
Kamu akan mempercayai sistem yang lebih cepat, atau yang lebih transparan?
