Para pakar AI terkemuka dan figur publik telah mengeluarkan pernyataan yang memperingatkan bahwa AI dapat menjadi ancaman terhadap kelangsungan hidup umat manusia, sebanding dengan atau bahkan lebih besar daripada risiko pandemi dan perang nuklir. Ke-350 penandatangan berpendapat bahwa AI dapat menimbulkan konsekuensi yang tidak terduga dan bersifat bencana, seperti meluncurkan senjata otonom, mengganggu sistem sosial dan ekonomi, atau menciptakan agen supercerdas yang dapat menipu dan mengungguli manusia.
Mereka menyerukan kepada para pembuat kebijakan untuk serius mempertimbangkan risiko-risiko ini dan menerapkan langkah-langkah guna memastikan pengembangan AI yang aman dan bermanfaat. Pernyataan tersebut ditandatangani oleh beberapa tokoh terkemuka dalam riset dan pengembangan AI, seperti CEO OpenAI Sam Altman, pendiri Skype Jaan Tallinn, CEO DeepMind Demis Hassabis, dan ilmuwan komputer AI Geoffrey Hinton, serta figur publik berpengaruh, seperti musisi Grimes dan podcaster Sam Harris.
Di antara para penandatangan adalah pemenang Penghargaan Turing 2018 atas kontribusi mereka pada deep learning: Geoffrey Hinton dan Yoshua Bengio. Mereka bergabung dengan para profesor dari universitas bergengsi seperti Harvard dan Tsinghua University di Tiongkok, serta Max Tegmark dari MIT.
“Mengurangi risiko kepunahan akibat AI harus menjadi prioritas global bersama dengan risiko skala-masyarakat lainnya seperti pandemi dan perang nuklir,”
surat yang diterbitkan oleh CAIS menyatakan.
The Center for AI Safety (CAIS), sebuah organisasi nirlaba yang berbasis di San Francisco, bertujuan untuk mengatasi kekhawatiran keselamatan terkait kecerdasan buatan. Sambil mengakui potensi manfaat AI, CAIS menekankan perlunya mengembangkan dan menggunakannya dengan aman. Meskipun terdapat kemajuan signifikan dalam AI, berbagai tantangan mendasar dalam keselamatan AI masih belum terselesaikan, menurut perusahaan tersebut. Berdasarkan situs webnya, misi CAIS adalah mengurangi risiko dengan melakukan riset keselamatan, membina komunitas peneliti keselamatan AI, dan mengadvokasi standar keselamatan.
“Terdapat banyak ‘risiko yang penting dan mendesak dari AI,’ tidak hanya risiko kepunahan; misalnya bias sistemik, misinformasi, penggunaan berbahaya, serangan siber, dan senjataisasi. Semua ini adalah risiko penting yang perlu ditangani. Masyarakat dapat mengelola banyak risiko sekaligus; bukan ‘salah satu/atau,’ melainkan ‘ya/dan.’ Dari perspektif manajemen risiko, sama seperti tidak bijak untuk secara eksklusif memprioritaskan dampak yang terjadi saat ini, tidak bijak pula untuk mengabaikannya,”
Dan Hendrycks, direktur CAIS, menulis di Twitter.
Pada bulan Maret, lebih dari 1.100 pakar teknologi menandatangani surat terbuka yang menuntut penghentian pelatihan sistem AI selama enam bulan yang melampaui GPT-4. Anggota parlemen Eropa baru-baru ini juga menyetujui rancangan undang-undang yang lebih ketat, yang dikenal sebagai AI Act, untuk mengatur alat AI seperti ChatGPT. Aturan tersebut mencakup persyaratan untuk pemeriksaan keselamatan, tata kelola data, dan mitigasi risiko untuk model AI dasar serta melarang praktik seperti teknik manipulatif dan penggunaan tertentu dari biometrik.
Baca lebih lanjut:
OpenAI Mengungkap Pendekatan Terbarunya untuk Memastikan Keamanan AI
Apakah Google akan mengumumkan generator text-to-avatar untuk para gamer?
Amazon’s CodeWhisperer Memberi Pengembang Keunggulan yang Mereka Butuhkan di Arena AI
Vitalik Buterin dan Direktur MIRI Nate Soares Mendalami Bahaya AI
Postingan “AI Experts and Public Figures Raise Alarms on AI Extinction Risk” pertama kali muncul di Metaverse Post.