Saya ingat menguji berbagai alat AI tahun lalu dan memperhatikan sesuatu yang aneh.
Kebanyakan orang menghabiskan banyak waktu membandingkan model mana yang lebih pintar.
Hampir tidak ada yang bertanya apakah outputnya sebenarnya dapat dipercaya.
Pada awalnya, saya pikir itu normal.
Bagaimanapun, kecerdasan tampaknya menjadi hal yang paling penting.
Tapi semakin saya melihat industri ini berkembang, semakin saya berpikir bahwa kita mengabaikan sesuatu yang jauh lebih berharga.
Verifikasi.
Saat ini, AI semakin murah, cepat, dan lebih mudah diakses.
Model baru muncul setiap bulan.
Kemampuan menyebar dengan cepat.
Apa yang unik kemarin sering menjadi standar besok.
Itu membuat saya bertanya-tanya:
Jika kecerdasan terus menjadi lebih mudah diakses, apa yang sebenarnya tetap langka?
Saya terus kembali ke kepercayaan.
Bukan kepercayaan sebagai perasaan.
Kepercayaan sebagai sumber daya ekonomi.
Kemampuan untuk memverifikasi dari mana kecerdasan berasal, siapa yang memproduksinya, apakah itu telah diubah, dan apakah aktivitas di sekitarnya adalah asli.
Itu salah satu alasan @OpenGradient menarik perhatian saya.
Bukan karena apa yang diklaim untuk dibangun, tetapi karena itu berada di dekat masalah yang saya pikir pasar masih meremehkan.
Seiring jaringan AI tumbuh, verifikasi mungkin menjadi sama pentingnya dengan kecerdasan itu sendiri.
Tentu saja, ada risiko.
Sistem verifikasi dapat dimanipulasi.
Insentif dapat menarik aktivitas tanpa menciptakan pengguna yang nyata.
Retensi dapat melemah setelah hadiah menghilang.
Jadi saya tidak yakin ada yang telah menyelesaikannya.
Tapi saya terus bertanya-tanya:
Ketika AI menjadi melimpah, apakah nilai akan datang dari menciptakan kecerdasan atau dari membuktikan bahwa kecerdasan itu dapat dipercaya?
#opg $OPG @OpenGradient
Kebanyakan orang menghabiskan banyak waktu membandingkan model mana yang lebih pintar.
Hampir tidak ada yang bertanya apakah outputnya sebenarnya dapat dipercaya.
Pada awalnya, saya pikir itu normal.
Bagaimanapun, kecerdasan tampaknya menjadi hal yang paling penting.
Tapi semakin saya melihat industri ini berkembang, semakin saya berpikir bahwa kita mengabaikan sesuatu yang jauh lebih berharga.
Verifikasi.
Saat ini, AI semakin murah, cepat, dan lebih mudah diakses.
Model baru muncul setiap bulan.
Kemampuan menyebar dengan cepat.
Apa yang unik kemarin sering menjadi standar besok.
Itu membuat saya bertanya-tanya:
Jika kecerdasan terus menjadi lebih mudah diakses, apa yang sebenarnya tetap langka?
Saya terus kembali ke kepercayaan.
Bukan kepercayaan sebagai perasaan.
Kepercayaan sebagai sumber daya ekonomi.
Kemampuan untuk memverifikasi dari mana kecerdasan berasal, siapa yang memproduksinya, apakah itu telah diubah, dan apakah aktivitas di sekitarnya adalah asli.
Itu salah satu alasan @OpenGradient menarik perhatian saya.
Bukan karena apa yang diklaim untuk dibangun, tetapi karena itu berada di dekat masalah yang saya pikir pasar masih meremehkan.
Seiring jaringan AI tumbuh, verifikasi mungkin menjadi sama pentingnya dengan kecerdasan itu sendiri.
Tentu saja, ada risiko.
Sistem verifikasi dapat dimanipulasi.
Insentif dapat menarik aktivitas tanpa menciptakan pengguna yang nyata.
Retensi dapat melemah setelah hadiah menghilang.
Jadi saya tidak yakin ada yang telah menyelesaikannya.
Tapi saya terus bertanya-tanya:
Ketika AI menjadi melimpah, apakah nilai akan datang dari menciptakan kecerdasan atau dari membuktikan bahwa kecerdasan itu dapat dipercaya?
#opg $OPG @OpenGradient