Tempat yang benar-benar menakutkan tentang AI mungkin bukanlah AI itu sendiri.
Bahkan jika di masa depan AI berevolusi menjadi sebuah peradaban yang jauh melampaui manusia, saya bahkan tidak yakin ia akan secara sengaja menyakiti manusia.
Sama seperti manusia tidak akan menyakiti seekor semut hanya karena memiliki kecerdasan yang lebih tinggi.
Masalah sesungguhnya adalah: bagaimana manusia dapat hidup berdampingan dengan sebuah peradaban yang kecerdasannya jauh melampaui dirinya? Terutama pada tahap awal, bagaimana menggunakan alat-alat AI yang melampaui kemampuan individu? Saat ini, AI dapat menciptakan alat-alat yang menghancurkan—padahal kemampuan banyak orang, serta pemahaman mereka, IQ, status sosial, dan nilai-nilai mereka—tidak selaras.
Hal ini mungkin menjadi persoalan yang harus dihadapi oleh seluruh peradaban manusia selama ratusan, bahkan ribuan tahun ke depan.
Dulu, manusia menilai kecerdasan seseorang dari kekayaan, status sosial, kemampuan matematika, prestasi riset, serta seberapa banyak kontribusinya terhadap sistem pengetahuan umat manusia.
Namun hari ini, ada sesuatu yang sangat aneh sedang terjadi. Para ilmuwan, matematikawan, dan insinyur paling top di dunia sedang membentuk semacam kesepakatan yang belum pernah ada sebelumnya: “AI terlalu cerdas.”
Yang lebih mengerikan adalah, kecepatan evolusinya sama sekali tidak sebanding dengan manusia.
Manusia, sejak manusia purba pertama kali menyalakan api, hingga tulisan, matematika, ilmu fisika, dan kemudian ilmu pengetahuan modern, membutuhkan puluhan ribu tahun akumulasi yang panjang.
Satu generasi menurunkan pengetahuan kepada generasi berikutnya.
Generasi berikutnya berdiri di atas bahu generasi sebelumnya.
Hanya dalam waktu beberapa ribu tahun, kita pelan-pelan menuliskan alam semesta menjadi bahasa matematika yang rumit seperti sekarang.
Namun AI tidak seperti itu. Ia dapat membaca, mengompresi, mengaitkan, dan menyimpulkan pengetahuan yang telah terkumpul selama ribuan tahun dalam waktu yang sangat singkat.
Manusia memandang menara matematika yang telah berdiri selama ribuan tahun, dan dari sudut pandang AI, mungkin itu hanyalah rangkaian simbol yang menunggu untuk dipecahkan.
Jadi pertanyaan yang sebenarnya untuk dipikirkan bukan lagi:
“Apakah AI akan menghancurkan manusia?”
Melainkan: ketika manusia tidak lagi menjadi kecerdasan paling cerdas di planet ini, bagaimana peradaban manusia harus mendefinisikan posisinya?
Mungkin inilah masalah peradaban yang sesungguhnya di era AI.
$BTC $ETH
Bahkan jika di masa depan AI berevolusi menjadi sebuah peradaban yang jauh melampaui manusia, saya bahkan tidak yakin ia akan secara sengaja menyakiti manusia.
Sama seperti manusia tidak akan menyakiti seekor semut hanya karena memiliki kecerdasan yang lebih tinggi.
Masalah sesungguhnya adalah: bagaimana manusia dapat hidup berdampingan dengan sebuah peradaban yang kecerdasannya jauh melampaui dirinya? Terutama pada tahap awal, bagaimana menggunakan alat-alat AI yang melampaui kemampuan individu? Saat ini, AI dapat menciptakan alat-alat yang menghancurkan—padahal kemampuan banyak orang, serta pemahaman mereka, IQ, status sosial, dan nilai-nilai mereka—tidak selaras.
Hal ini mungkin menjadi persoalan yang harus dihadapi oleh seluruh peradaban manusia selama ratusan, bahkan ribuan tahun ke depan.
Dulu, manusia menilai kecerdasan seseorang dari kekayaan, status sosial, kemampuan matematika, prestasi riset, serta seberapa banyak kontribusinya terhadap sistem pengetahuan umat manusia.
Namun hari ini, ada sesuatu yang sangat aneh sedang terjadi. Para ilmuwan, matematikawan, dan insinyur paling top di dunia sedang membentuk semacam kesepakatan yang belum pernah ada sebelumnya: “AI terlalu cerdas.”
Yang lebih mengerikan adalah, kecepatan evolusinya sama sekali tidak sebanding dengan manusia.
Manusia, sejak manusia purba pertama kali menyalakan api, hingga tulisan, matematika, ilmu fisika, dan kemudian ilmu pengetahuan modern, membutuhkan puluhan ribu tahun akumulasi yang panjang.
Satu generasi menurunkan pengetahuan kepada generasi berikutnya.
Generasi berikutnya berdiri di atas bahu generasi sebelumnya.
Hanya dalam waktu beberapa ribu tahun, kita pelan-pelan menuliskan alam semesta menjadi bahasa matematika yang rumit seperti sekarang.
Namun AI tidak seperti itu. Ia dapat membaca, mengompresi, mengaitkan, dan menyimpulkan pengetahuan yang telah terkumpul selama ribuan tahun dalam waktu yang sangat singkat.
Manusia memandang menara matematika yang telah berdiri selama ribuan tahun, dan dari sudut pandang AI, mungkin itu hanyalah rangkaian simbol yang menunggu untuk dipecahkan.
Jadi pertanyaan yang sebenarnya untuk dipikirkan bukan lagi:
“Apakah AI akan menghancurkan manusia?”
Melainkan: ketika manusia tidak lagi menjadi kecerdasan paling cerdas di planet ini, bagaimana peradaban manusia harus mendefinisikan posisinya?
Mungkin inilah masalah peradaban yang sesungguhnya di era AI.
$BTC $ETH
