Sebuah pemikiran sudah menghantui saya belakangan ini.
Bukan karena sesuatu yang terjadi hari ini, tapi karena sesuatu yang bisa saya bayangkan dengan mudah akan terjadi beberapa tahun ke depan.
Saya membayangkan diri saya menggunakan AI sama seperti saya menggunakan mesin pencari sekarang. Terus-menerus. Diam-diam. Untuk keputusan yang terlihat kecil saat itu tapi terakumulasi seiring waktu.
@OpenGradient
Suatu hari, saya meminta sistem AI untuk menganalisis tren pasar.
Jawabannya terlihat tajam. Alasan yang disampaikan terasa meyakinkan. Segalanya tampak normal.
Dan itulah yang akan membuat saya tidak nyaman.
Selama ini, saya mengira kepercayaan pada AI akan datang dari kualitas output-nya. Jika jawabannya berguna, saya lanjut.
$OPG
Tapi belakangan ini saya mulai mempertanyakan kebiasaan itu.
Karena output yang baik dan model yang dapat dipercaya bukanlah hal yang sama.
Saya bisa membayangkan masa depan di mana dua sistem menghasilkan respons yang hampir identik. Kesimpulan yang sama. Keyakinan yang sama. Kata-kata yang sama terpolish.
Namun satu berasal dari model yang saya maksudkan untuk digunakan.
Yang lain berasal dari sesuatu yang dimodifikasi, dimanipulasi, atau diam-diam diganti selama proses.
Sebagai pengguna, kita secara alami fokus pada output karena itulah yang kita lihat.
Infrastruktur beroperasi di latar belakang.
Verifikasi beroperasi di latar belakang.
Kepercayaan beroperasi di latar belakang.
Semakin dalam saya berpikir tentang infrastruktur AI, semakin saya merasa bahwa verifikasi output menjawab pertanyaan jangka pendek: "Apakah respons ini masuk akal?"
Verifikasi model menjawab pertanyaan yang jauh lebih besar: "Siapa yang sebenarnya memproduksinya?"
Mungkin perbedaan itu terasa halus hari ini.
Saya tidak yakin itu akan terasa halus begitu AI bertanggung jawab untuk keputusan yang penting.#opg #Binance
Bukan karena sesuatu yang terjadi hari ini, tapi karena sesuatu yang bisa saya bayangkan dengan mudah akan terjadi beberapa tahun ke depan.
Saya membayangkan diri saya menggunakan AI sama seperti saya menggunakan mesin pencari sekarang. Terus-menerus. Diam-diam. Untuk keputusan yang terlihat kecil saat itu tapi terakumulasi seiring waktu.
@OpenGradient
Suatu hari, saya meminta sistem AI untuk menganalisis tren pasar.
Jawabannya terlihat tajam. Alasan yang disampaikan terasa meyakinkan. Segalanya tampak normal.
Dan itulah yang akan membuat saya tidak nyaman.
Selama ini, saya mengira kepercayaan pada AI akan datang dari kualitas output-nya. Jika jawabannya berguna, saya lanjut.
$OPG
Tapi belakangan ini saya mulai mempertanyakan kebiasaan itu.
Karena output yang baik dan model yang dapat dipercaya bukanlah hal yang sama.
Saya bisa membayangkan masa depan di mana dua sistem menghasilkan respons yang hampir identik. Kesimpulan yang sama. Keyakinan yang sama. Kata-kata yang sama terpolish.
Namun satu berasal dari model yang saya maksudkan untuk digunakan.
Yang lain berasal dari sesuatu yang dimodifikasi, dimanipulasi, atau diam-diam diganti selama proses.
Sebagai pengguna, kita secara alami fokus pada output karena itulah yang kita lihat.
Infrastruktur beroperasi di latar belakang.
Verifikasi beroperasi di latar belakang.
Kepercayaan beroperasi di latar belakang.
Semakin dalam saya berpikir tentang infrastruktur AI, semakin saya merasa bahwa verifikasi output menjawab pertanyaan jangka pendek: "Apakah respons ini masuk akal?"
Verifikasi model menjawab pertanyaan yang jauh lebih besar: "Siapa yang sebenarnya memproduksinya?"
Mungkin perbedaan itu terasa halus hari ini.
Saya tidak yakin itu akan terasa halus begitu AI bertanggung jawab untuk keputusan yang penting.#opg #Binance