Lebih dari 2.600 pemimpin teknologi dan peneliti telah menandatangani surat terbuka yang mendesak “jeda” sementara pengembangan kecerdasan buatan (AI) lebih lanjut, karena khawatir akan adanya “risiko besar terhadap masyarakat dan kemanusiaan.”

CEO Tesla Elon Musk, salah satu pendiri Apple Steve Wozniak dan sejumlah CEO AI, CTO, dan peneliti termasuk di antara penandatangan surat tersebut, yang ditulis oleh lembaga pemikir Amerika Serikat, Future of Life Institute (FOLI) pada tanggal 22 Maret.

Lembaga tersebut meminta semua perusahaan AI untuk “segera menghentikan” pelatihan sistem AI yang lebih kuat dari GPT-4 setidaknya selama enam bulan, menyampaikan kekhawatiran bahwa “kecerdasan kompetitif manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan,” antara lain. :

  

“AI yang canggih dapat mewakili perubahan besar dalam sejarah kehidupan di Bumi, dan harus direncanakan serta dikelola dengan perhatian dan sumber daya yang sepadan. Sayangnya, tingkat perencanaan dan pengelolaan seperti ini tidak terjadi,” tulis lembaga tersebut dalam suratnya.

GPT-4 adalah versi terbaru dari chatbot bertenaga kecerdasan buatan OpenAI, yang dirilis pada tanggal 14 Maret. Hingga saat ini, GPT-4 telah lulus beberapa ujian sekolah menengah atas dan hukum yang paling ketat di AS dalam persentil ke-90. Ini dipahami 10 kali lebih canggih daripada versi asli ChatGPT.

Ada “perlombaan di luar kendali” antara perusahaan-perusahaan AI untuk mengembangkan AI yang lebih kuat, yang “tidak seorang pun – bahkan penciptanya – dapat memahami, memprediksi, atau mengendalikannya dengan andal,” klaim FOLI.

  

Kekhawatiran utama yang muncul adalah apakah mesin dapat membanjiri saluran informasi, yang berpotensi berisi “propaganda dan ketidakbenaran” dan apakah mesin akan “mengotomatiskan” semua peluang kerja.

FOLI mengambil kekhawatiran ini satu langkah lebih jauh, dengan menunjukkan bahwa upaya kewirausahaan perusahaan-perusahaan AI ini dapat mengarah pada ancaman nyata:

 “Haruskah kita mengembangkan pemikiran non-manusia yang mungkin pada akhirnya akan melebihi jumlah, mengakali, ketinggalan jaman, dan menggantikan kita? Haruskah kita mengambil risiko kehilangan kendali atas peradaban kita?”  

“Keputusan seperti itu tidak boleh didelegasikan kepada para pemimpin teknologi yang tidak dipilih,” tambah surat itu.

 

Lembaga ini juga setuju dengan pernyataan baru-baru ini dari pendiri OpenAI Sam Altman yang menyatakan bahwa tinjauan independen mungkin diperlukan sebelum melatih sistem AI di masa depan.

Altman dalam postingan blognya pada 24 Februari menyoroti perlunya mempersiapkan robot kecerdasan umum buatan (AGI) dan superintelligence buatan (ASI).

Namun tidak semua pakar AI segera menandatangani petisi tersebut. Ben Goertzel, CEO SingularityNET menjelaskan dalam tanggapan Twitter tanggal 29 Maret kepada Gary Marcus, penulis Rebooting.AI bahwa model pembelajaran bahasa (LLM) tidak akan menjadi AGI, yang hingga saat ini hanya ada sedikit perkembangan.

Sebaliknya, dia mengatakan penelitian dan pengembangan harus diperlambat untuk hal-hal seperti senjata biologis dan nuklir:

Selain model pembelajaran bahasa seperti ChatGPT, teknologi deep fake yang didukung AI telah digunakan untuk membuat gambar, audio, dan video hoax yang meyakinkan. Teknologi ini juga telah digunakan untuk membuat karya seni yang dihasilkan oleh AI, dengan beberapa kekhawatiran yang muncul mengenai apakah hal tersebut dapat melanggar undang-undang hak cipta dalam kasus tertentu.

CEO Galaxy Digital Mike Novogratz baru-baru ini mengatakan kepada investor bahwa dia terkejut dengan banyaknya perhatian regulasi yang diberikan pada kripto, sementara hanya sedikit yang mengarah pada kecerdasan buatan.

“Ketika saya berpikir tentang AI, saya terkejut karena kita berbicara banyak tentang regulasi kripto dan tidak membicarakan regulasi AI. Maksud saya, menurut saya pemerintah telah melakukan hal yang terbalik,” ujarnya dalam rapat pemegang saham pada tanggal 28 Maret.

FOLI berpendapat bahwa jika jeda pengembangan AI tidak segera diberlakukan, pemerintah harus mengambil langkah moratorium.

“Jeda ini harus bersifat publik dan dapat diverifikasi, serta mencakup semua aktor kunci. Jika jeda seperti itu tidak dapat dilakukan dengan cepat, pemerintah harus turun tangan dan melakukan moratorium,” tulisnya.