Sekretaris Jenderal PBB António Guterres menyerukan kepada komunitas global untuk merumuskan aturan internasional yang seragam guna mengatur kecerdasan buatan. Menurutnya, perkembangan pesat AI kini sudah melampaui mekanisme kontrol yang ada, sehingga menimbulkan risiko serius bagi masyarakat, keamanan, dan hak asasi manusia.

Berbicara dalam sebuah acara yang membahas persoalan perkembangan kecerdasan buatan, Guterres menyatakan bahwa teknologi modern berkembang dengan kecepatan yang belum pernah terjadi sebelumnya dan tanpa pengawasan internasional yang memadai.

“Kecerdasan buatan berkembang dengan kecepatan yang tidak terkendali,” tekankan sekretaris jenderal PBB.

Menurutnya, umat manusia telah menjadi peserta dalam eksperimen berskala besar yang dampaknya hingga kini belum dipahami sepenuhnya oleh siapa pun.

“Ini adalah eksperimen terhadap masyarakat tanpa rencana dan tanpa persetujuan,” ujarnya.

Tiga ancaman utama

Guterres menguraikan tiga risiko kunci yang terkait dengan perkembangan kecerdasan buatan. Pertama, penyebaran teknologi baru yang sangat cepat. Kedua, konsentrasi daya komputasi, data, dan model-model mutakhir di tangan sejumlah terbatas negara dan perusahaan teknologi besar. Sebagai ancaman ketiga, ia menyebut memburuknya kualitas lingkungan informasi, termasuk penyebaran konten yang tidak akurat dan manipulasi digital.

Menurut kepala PBB, internet membutuhkan waktu sekitar 15 tahun untuk meraih satu miliar pengguna pertama, sedangkan kecerdasan buatan mencapai skala yang sebanding hanya dalam dua tahun. Namun, berdasarkan laporan pendahuluan panel ilmiah PBB, chatbot ChatGPT menembus angka 100 juta pengguna hanya dalam dua bulan setelah diluncurkan.

Guterres menekankan bahwa sistem AI modern sudah mampu menulis kode pemrograman sendiri, melakukan tindakan di internet, dan mengambil keputusan dengan keterlibatan manusia yang semakin kecil.

“Institusi-institusi kami diciptakan untuk mengendalikan mesin yang menjalankan perintah. Mereka tidak siap untuk mesin yang mengambil keputusan,” katanya.

“Jangan vibe-coding masa depan umat manusia”

Dalam pidatonya, sekretaris jenderal menggunakan istilah populer “vibe-coding” sebagai metafora untuk pendekatan yang tidak bertanggung jawab terhadap perkembangan kecerdasan buatan. Ia menjelaskan bahwa yang dimaksud adalah situasi ketika orang membiarkan sistem menjalankan tugas-tugas kompleks tanpa berusaha memahami prinsip cara kerjanya dan kemungkinan dampaknya.

“Vibe-coding bisa menciptakan keajaiban. Tapi kita tidak bisa vibe-coding kebenaran. Kita tidak bisa vibe-coding masa depan umat manusia,” kata Guterres.

Menurutnya, komunitas dunia saat ini dihadapkan pada pilihan bukan antara kepercayaan tanpa syarat kepada kecerdasan buatan dan ketakutan terhadapnya, melainkan antara pengelolaan teknologi yang bertanggung jawab dan sikap pasif mengawasi perkembangannya.

PBB mengusulkan untuk memperkuat perlindungan anak-anak

Perhatian khusus kepala PBB berfokus pada persoalan keamanan bagi anak di bawah umur. Ia menyerukan agar perusahaan teknologi terkemuka mendukung inisiatif AI Child Safety Pledge—komitmen internasional untuk memastikan keamanan sistem AI yang digunakan oleh anak-anak.

Menurut Guterres, kecerdasan buatan sudah menjadi bagian dari pembelajaran, komunikasi, dan kehidupan sehari-hari jutaan anak, meskipun dampak jangka panjang dari penggunaannya hingga kini belum dipelajari secara memadai.

“Tidak ada seorang pun anak yang boleh dijadikan kelinci percobaan untuk kecerdasan buatan yang tidak diatur,” tekannya.

Langkah-langkah yang diajukan PBB mencakup tiga prinsip utama:

  • jangan meluncurkan layanan AI yang dapat diakses anak di bawah umur tanpa pengujian awal dan penilaian independen atas keamanan;

  • menerapkan kebijakan toleransi nol terhadap pembuatan dan penyebaran gambar anak yang bersifat seksual, dengan secara otomatis mendeteksi dan menghapus konten semacam itu;

  • jangan meninggalkan anak sendirian berhadapan dengan chatbot dalam situasi krisis. Jika sistem mendeteksi tanda-tanda kondisi emosional berat atau ancaman terhadap nyawa pengguna, sistem harus menghentikan interaksi dan memastikan tersambungnya bantuan manusia yang berkualifikasi.

Selain itu, Guterres menekankan bahwa di bidang-bidang seperti layanan kesehatan, sistem peradilan, dan penegakan hukum, kecerdasan buatan hanya boleh digunakan sebagai alat bantu, sedangkan keputusan akhir dan tanggung jawab harus selalu berada pada manusia.

Seruan untuk melarang senjata otonom yang mematikan

Bagian tersendiri dari sambutannya didedikasikan oleh sekretaris jenderal untuk penggunaan militer kecerdasan buatan. Ia menyatakan bahwa perkembangan teknologi AI sipil tidak dapat dipandang terpisah dari persoalan keamanan, sebab algoritma dan daya komputasi yang sama sudah digunakan dalam pembuatan persenjataan modern.

Guterres menyerukan agar komunitas dunia menetapkan larangan penuh dalam hukum internasional terhadap penggunaan sistem persenjataan otonom mematikan yang mampu secara mandiri memilih dan menargetkan sasaran tanpa keterlibatan manusia.

“Sebutkan saja apa adanya: robot pembunuh,” kata kepala PBB.

Menurutnya, sistem semacam itu “secara moral menjijikkan” dan “secara politik tidak dapat diterima.” Ia mencatat bahwa perundingan internasional mengenai isu ini sudah berlangsung, namun memperingatkan bahwa negara-negara tidak boleh menunggu tragedi baru sebelum mengambil keputusan yang diperlukan.

Di akhir pidatonya, Guterres menegaskan bahwa perkembangan kecerdasan buatan harus disertai aturan internasional yang jelas, transparansi, dan akuntabilitas, agar teknologi baru melayani kepentingan seluruh umat manusia, bukan menjadi sumber ancaman global baru.

#NewsAboutCrypto

#NEW