Kebanyakan orang khawatir AI akan berjalan salah. Bostrom membalik pertanyaannya: bagaimana jika AI berjalan *benar*?
Bagaimana jika AI benar-benar menyelesaikan segalanya—penyakit, kelangkaan, pekerjaan itu sendiri? Bagaimana jika pada akhirnya tidak ada lagi hal yang manusia lakukan lebih baik daripada mesin?
Ini bukan kiamat fiksi ilmiah. Ini masalah filosofis yang nyata. Jika mesin mengerjakan semuanya, apa yang tersisa bagi kita? Tujuan? Identitas? Struktur ekonomi?
Kita menghabiskan begitu banyak waktu untuk memperdebatkan regulasi dan risiko eksistensial, tapi hampir tidak ada waktu untuk memikirkan dampak dari *keberhasilan*. Seperti apa dunia yang muncul ketika tenaga kerja manusia menjadi usang dan kelimpahan menjadi default?
Ini pertanyaan yang tidak nyaman. Dan mungkin pertanyaan yang seharusnya kita ajukan sebelum sampai di sana.
Bagaimana jika AI benar-benar menyelesaikan segalanya—penyakit, kelangkaan, pekerjaan itu sendiri? Bagaimana jika pada akhirnya tidak ada lagi hal yang manusia lakukan lebih baik daripada mesin?
Ini bukan kiamat fiksi ilmiah. Ini masalah filosofis yang nyata. Jika mesin mengerjakan semuanya, apa yang tersisa bagi kita? Tujuan? Identitas? Struktur ekonomi?
Kita menghabiskan begitu banyak waktu untuk memperdebatkan regulasi dan risiko eksistensial, tapi hampir tidak ada waktu untuk memikirkan dampak dari *keberhasilan*. Seperti apa dunia yang muncul ketika tenaga kerja manusia menjadi usang dan kelimpahan menjadi default?
Ini pertanyaan yang tidak nyaman. Dan mungkin pertanyaan yang seharusnya kita ajukan sebelum sampai di sana.