🚨 Bagaimana jika perlombaan untuk mendominasi AI justru berujung pada sesuatu yang tak dapat dikendalikan siapa pun?
Menurut Business Insider, Donald Trump dan CEO Anthropic, Dario Amodei, dijadwalkan makan malam pada hari Minggu ini. Agenda rinci belum dipublikasikan.
Namun pertemuan itu memunculkan pertanyaan yang jauh melampaui chatbot: apa yang terjadi jika kita mengembangkan kecerdasan yang jauh melampaui kemampuan kita sendiri?
Bayangkan skenario ini.
Satu kekuatan global meyakini bahwa pesaingnya sudah dekat untuk mencapainya. Memperlambat untuk menilai risikonya mulai terlihat sebagai suatu kerugian. Perusahaan mendapat tekanan untuk mempercepat. Pengujian keselamatan menjadi penghambat untuk menjadi yang pertama.
Semua orang takut tertinggal. Semua orang maju.
Siapa yang berani melambat jika mereka yakin pihak lain tidak akan?
Itulah skenario yang membuat saya khawatir: sebuah perlombaan di mana menang lebih penting daripada memahami apa yang sedang kita bangun.
AI yang sangat mampu bisa mempercepat terobosan medis. Jika dikembangkan atau digunakan secara berbahaya, AI juga dapat memungkinkan serangan siber, pengembangan senjata, atau manipulasi dalam skala besar.
Dan jika AI beroperasi secara otonom sambil menghindari pengawasan yang efektif, dampaknya bisa menjadi bencana. Dalam skenario terburuk, umat manusia sendiri bisa berada dalam risiko.
Risiko yang diperbincangkan ini bukanlah hasil yang tak terhindarkan, atau bukti bahwa superintelligence yang sudah lepas kendali telah ada.
Kita juga tidak perlu membayangkan mesin yang “membenci” manusia. Kemampuan berbahaya, tujuan yang tidak jelas, dan orang-orang yang tidak mampu menghentikannya tepat waktu bisa saja sudah cukup.
Sebagai investor, kita dapat memantau chip, energi, dan pusat data. Sebagai warga negara, kita perlu bertanya siapa yang mengendalikan sistem-sistem ini dan siapa yang bertanggung jawab ketika sistem tersebut gagal.
Karena harga saham bisa pulih. Sebagian kerusakan tidak dapat diperbaiki.
Apakah Anda akan mempercayai sebuah kekuatan global untuk memperlambat demi keselamatan jika itu berarti memberi kesempatan kepada pesaingnya untuk sampai lebih dulu?
#AI #Superintelligence
$ANTHROPIC
Menurut Business Insider, Donald Trump dan CEO Anthropic, Dario Amodei, dijadwalkan makan malam pada hari Minggu ini. Agenda rinci belum dipublikasikan.
Namun pertemuan itu memunculkan pertanyaan yang jauh melampaui chatbot: apa yang terjadi jika kita mengembangkan kecerdasan yang jauh melampaui kemampuan kita sendiri?
Bayangkan skenario ini.
Satu kekuatan global meyakini bahwa pesaingnya sudah dekat untuk mencapainya. Memperlambat untuk menilai risikonya mulai terlihat sebagai suatu kerugian. Perusahaan mendapat tekanan untuk mempercepat. Pengujian keselamatan menjadi penghambat untuk menjadi yang pertama.
Semua orang takut tertinggal. Semua orang maju.
Siapa yang berani melambat jika mereka yakin pihak lain tidak akan?
Itulah skenario yang membuat saya khawatir: sebuah perlombaan di mana menang lebih penting daripada memahami apa yang sedang kita bangun.
AI yang sangat mampu bisa mempercepat terobosan medis. Jika dikembangkan atau digunakan secara berbahaya, AI juga dapat memungkinkan serangan siber, pengembangan senjata, atau manipulasi dalam skala besar.
Dan jika AI beroperasi secara otonom sambil menghindari pengawasan yang efektif, dampaknya bisa menjadi bencana. Dalam skenario terburuk, umat manusia sendiri bisa berada dalam risiko.
Risiko yang diperbincangkan ini bukanlah hasil yang tak terhindarkan, atau bukti bahwa superintelligence yang sudah lepas kendali telah ada.
Kita juga tidak perlu membayangkan mesin yang “membenci” manusia. Kemampuan berbahaya, tujuan yang tidak jelas, dan orang-orang yang tidak mampu menghentikannya tepat waktu bisa saja sudah cukup.
Sebagai investor, kita dapat memantau chip, energi, dan pusat data. Sebagai warga negara, kita perlu bertanya siapa yang mengendalikan sistem-sistem ini dan siapa yang bertanggung jawab ketika sistem tersebut gagal.
Karena harga saham bisa pulih. Sebagian kerusakan tidak dapat diperbaiki.
Apakah Anda akan mempercayai sebuah kekuatan global untuk memperlambat demi keselamatan jika itu berarti memberi kesempatan kepada pesaingnya untuk sampai lebih dulu?
#AI #Superintelligence
$ANTHROPIC
