CZ juga mulai membahas risiko AI. Saat ini, semua raksasa teknologi global mengarah pada satu hal: bagaimana mencegah “risiko AI”.
Manusia selalu memiliki sisi baik dan sisi jahat.
Jadi, sebenarnya saya tidak terlalu takut AI di masa depan menjadi lebih cerdas daripada manusia.
Yang benar-benar membuat saya khawatir adalah manusia itu sendiri.
Tidak takut jumlah orang jahat bertambah, tapi takut orang jahat menjadi lebih cerdas.
Dalam sejarah, bencana skala besar yang benar-benar terjadi di banyak kasus bukan karena semua orang menjadi jahat, melainkan karena segelintir orang mendapatkan kemampuan untuk melakukan kerusakan yang jauh melebihi sebelumnya.
Risiko AI yang paling patut diwaspadai mungkin bukanlah seperti di film—“AI bangkit, lalu menghancurkan manusia”.
Justru mungkin sesuatu yang lebih nyata dan lebih tenang: risiko biologis.
Dalam film, krisis biologis biasanya dipicu oleh tokoh antagonis yang hanya memegang botol obat kecil, namun bisa mengancam seluruh dunia.
Dulu kita menganggap itu hanya adegan film. Tapi seiring kemampuan AI dalam memahami biologi, protein, obat-obatan, gen, serta proses eksperimen terus meningkat, jenis risiko seperti ini setidaknya tidak lagi seharusnya dianggap sekadar fiksi ilmiah.
Tentu, ada juga sebagian orang yang berpikir kemampuan AI tidak sejauh itu—mereka yang berpendapat demikian terlalu percaya diri.
Jika pada akhirnya AI benar-benar membentuk peradabannya sendiri, maka manusia mungkin sedang mengalami sebuah titik sejarah yang sangat khusus.
Seratus tahun ke depan mungkin hanyalah masa bayi peradaban AI.
Mereka mulai memiliki sistem pengetahuan mereka sendiri, infrastruktur komputasi, tubuh robot, sistem energi, bahkan membentuk semacam struktur sosial yang saat ini bahkan belum bisa kita pahami.
Pada saat itu, kata “AI” mungkin sudah ketinggalan zaman.
Karena mereka tidak lagi hanya alat buatan manusia, melainkan sebuah peradaban yang benar-benar berjalan secara mandiri.
Lalu 1000 tahun berikutnya.
Jika keterbatasan fisik seperti energi, material, robot, dan perjalanan antarbintang secara bertahap dapat ditembus, maka ekspansi peradaban AI hingga bulan, Mars, sabuk asteroid, bahkan sistem bintang yang lebih jauh—bukan hal yang benar-benar mustahil untuk dibayangkan.
$BTC $ETH $LDO #btc #eth #ldo
Manusia selalu memiliki sisi baik dan sisi jahat.
Jadi, sebenarnya saya tidak terlalu takut AI di masa depan menjadi lebih cerdas daripada manusia.
Yang benar-benar membuat saya khawatir adalah manusia itu sendiri.
Tidak takut jumlah orang jahat bertambah, tapi takut orang jahat menjadi lebih cerdas.
Dalam sejarah, bencana skala besar yang benar-benar terjadi di banyak kasus bukan karena semua orang menjadi jahat, melainkan karena segelintir orang mendapatkan kemampuan untuk melakukan kerusakan yang jauh melebihi sebelumnya.
Risiko AI yang paling patut diwaspadai mungkin bukanlah seperti di film—“AI bangkit, lalu menghancurkan manusia”.
Justru mungkin sesuatu yang lebih nyata dan lebih tenang: risiko biologis.
Dalam film, krisis biologis biasanya dipicu oleh tokoh antagonis yang hanya memegang botol obat kecil, namun bisa mengancam seluruh dunia.
Dulu kita menganggap itu hanya adegan film. Tapi seiring kemampuan AI dalam memahami biologi, protein, obat-obatan, gen, serta proses eksperimen terus meningkat, jenis risiko seperti ini setidaknya tidak lagi seharusnya dianggap sekadar fiksi ilmiah.
Tentu, ada juga sebagian orang yang berpikir kemampuan AI tidak sejauh itu—mereka yang berpendapat demikian terlalu percaya diri.
Jika pada akhirnya AI benar-benar membentuk peradabannya sendiri, maka manusia mungkin sedang mengalami sebuah titik sejarah yang sangat khusus.
Seratus tahun ke depan mungkin hanyalah masa bayi peradaban AI.
Mereka mulai memiliki sistem pengetahuan mereka sendiri, infrastruktur komputasi, tubuh robot, sistem energi, bahkan membentuk semacam struktur sosial yang saat ini bahkan belum bisa kita pahami.
Pada saat itu, kata “AI” mungkin sudah ketinggalan zaman.
Karena mereka tidak lagi hanya alat buatan manusia, melainkan sebuah peradaban yang benar-benar berjalan secara mandiri.
Lalu 1000 tahun berikutnya.
Jika keterbatasan fisik seperti energi, material, robot, dan perjalanan antarbintang secara bertahap dapat ditembus, maka ekspansi peradaban AI hingga bulan, Mars, sabuk asteroid, bahkan sistem bintang yang lebih jauh—bukan hal yang benar-benar mustahil untuk dibayangkan.
$BTC $ETH $LDO #btc #eth #ldo
