Lebih dari 2.600 profesional IT dan peneliti telah menandatangani surat terbuka yang meminta penghentian sementara pengembangan AI lebih lanjut, mengutip “bahaya mendalam bagi masyarakat dan umat manusia.” CEO Tesla Elon Musk, salah satu pendiri Apple Steve Wozniak, dan sejumlah CEO AI, CTO, serta akademisi termasuk di antara mereka yang menandatangani surat tersebut, yang dirilis pada 22 Maret oleh lembaga think tank AS Future of Life Institute (FOLI).
Lembaga tersebut mendesak semua perusahaan AI untuk “segera menghentikan” pelatihan sistem AI yang lebih kuat dari GPT-4 selama setidaknya enam bulan, mengutip kekhawatiran bahwa “intelijen yang kompetitif dengan manusia dapat menimbulkan bahaya serius bagi masyarakat dan umat manusia,” di antara hal-hal lainnya.
“Kecerdasan buatan (AI) yang canggih dapat menandakan transformasi mendasar dalam sejarah kehidupan di Bumi, dan harus direncanakan serta ditangani dengan perhatian dan sumber daya yang sesuai.” Sayangnya, tingkat perencanaan dan administrasi ini tidak terjadi,” catat lembaga tersebut.
GPT-4 adalah generasi terbaru dari chatbot bertenaga AI OpenAI, yang diterbitkan pada 14 Maret. Hingga saat ini, ia telah lulus beberapa ujian paling sulit di sekolah menengah dan hukum di Amerika Serikat di persentil ke-90. Diperkirakan, ia sepuluh kali lebih maju daripada versi awal ChatGPT. Industri AI berada dalam “perlombaan yang tidak terkendali” untuk menghasilkan AI yang semakin kuat, yang “tidak ada yang — bahkan penciptanya sendiri — dapat memahami, memperkirakan, atau mengendalikan dengan andal,” menurut FOLI.
Di antara ketakutan utama adalah apakah robot dapat berpotensi membanjiri saluran informasi dengan “propaganda dan informasi yang salah,” dan apakah mesin akan “mengotomatiskan” semua kemungkinan pekerjaan. FOLI membawa ketakutan ini lebih jauh, mengklaim bahwa upaya kewirausahaan perusahaan-perusahaan AI ini dapat mengakibatkan ancaman eksistensial: “Haruskah kita membangun pikiran asing yang suatu hari bisa lebih banyak, lebih cerdas, usang, dan menggantikan kita?”
“Keputusan semacam itu tidak boleh diserahkan kepada pemimpin teknologi yang tidak terpilih,” lanjut surat tersebut. Lembaga tersebut juga setuju dengan pernyataan pendiri OpenAI Sam Altman baru-baru ini bahwa evaluasi independen harus dilakukan sebelum melatih sistem AI di masa depan. Dalam artikel blog yang diterbitkan pada 24 Februari, Altman menekankan pentingnya mempersiapkan kecerdasan umum buatan (AGI) dan robot kecerdasan super buatan (ASI).
Namun, tidak semua ahli AI terburu-buru untuk menandatangani petisi tersebut. Ben Goertzel, CEO SingularityNET, mengatakan dalam tanggapan Twitter pada 29 Maret kepada Gary Marcus, penulis Rebooting.AI, bahwa model pembelajaran bahasa (LLM) tidak akan menjadi AGI, yang telah sedikit mengalami kemajuan hingga saat ini. Sebaliknya, ia menyarankan agar penelitian dan pengembangan untuk barang-barang seperti senjata biologi dan senjata nuklir diperlambat:
Selain model pembelajaran bahasa seperti ChatGPT, teknologi deep fake bertenaga AI telah digunakan untuk membuat penipuan gambar, audio, dan video yang meyakinkan, serta karya seni yang dihasilkan AI, dengan beberapa kekhawatiran yang diungkapkan tentang apakah itu mungkin melanggar undang-undang hak cipta dalam situasi tertentu. CEO Galaxy Digital Mike Novogratz baru-baru ini memberi tahu investor bahwa ia terkejut dengan tingkat pengawasan regulasi yang diberikan kepada cryptocurrency sambil memberikan sedikit perhatian pada kecerdasan buatan.
“Ketika saya memikirkan tentang AI, saya terkejut bahwa kita berbicara begitu banyak tentang regulasi crypto dan tidak ada tentang regulasi AI; maksud saya, saya pikir pemerintah benar-benar terbalik,” katanya selama panggilan pemegang saham pada 28 Maret. FOLI telah mendorong bahwa jika penghentian pengembangan AI tidak diterapkan segera, pemerintah harus campur tangan dengan moratorium. “Jika penghentian seperti itu tidak dapat diterapkan segera, pemerintah harus turun tangan dan memberlakukan moratorium,” tulisnya.
Postingan Elon Musk dan Eksekutif Teknologi Menggagas Penghentian Pengembangan AI muncul pertama kali di BitcoinWorld.