Ada yang mengatakan, mesin ini punya peluang satu dari sepuluh untuk merenggut nyawa manusia.
Orang yang mengucapkan itu bernama Jacob Coxon. Ia berhenti dari Anthropic pada 10 September; sebelumnya ia bekerja di OpenAI. Kalimat aslinya adalah: para pengembang AI sendiri percaya bahwa dalam sepuluh tahun ke depan, probabilitas kepunahan manusia akibat AI tingkat lanjut akan lebih dari sepuluh persen. Angka yang sama juga ditegaskan oleh Evan Hubinger, yang menangani penyelarasan (alignment) di perusahaan tersebut. Dua orang ini: yang satu sudah pergi, yang lainnya masih tetap di tempat.
BBC melaporkan pada 19 September bahwa di lab, lebih banyak orang mendengar peringatan semacam itu. Namun respons mereka bukan panik, melainkan tertawa. Mereka tentang mesin ini justru tahu lebih banyak daripada orang-orang di luar.
Angka satu dari sepuluh itu—keistimewaannya ada pada kenyataan bahwa ia tak benar-benar bisa diwujudkan. Besar sampai membuat orang terdiam, kecil sampai tidak perlu pergi hari ini. Maka yang bicara terus bicara, yang tertawa tetap tertawa, sementara valuasi tetap naik. Ketika narasi risiko berubah menjadi semacam slogan lisan, ia tak lagi bisa menghentikan siapa pun.
Kalau benar-benar membahas risiko, yang terlihat bukanlah mesinnya, melainkan tangan yang menekan tombol—dan siapa yang bertanggung jawab setelah tombol itu ditekan. Perusahaan-perusahaan dalam daftar—OpenAI, Anthropic, Meta, DeepMind—semuanya berdiri di sana seperti itu; tak ada yang lebih dulu mematikan mesinnya. Urusan tanggung jawab: jika diseret sampai sepuluh tahun ke depan, ujungnya sama saja dengan tidak ada.
Orang yang memanggil “serigala datang” belum tentu percaya pada serigalanya. Orang yang tertawa saat “serigala datang” juga belum tentu tidak takut. Satu ruangan penuh orang yang tidak ada yang pergi lebih dulu—barangkali itulah bentuk paling umum dari “ketenangan” yang terjadi saat ini.
Dari sepuluh orang yang menyebut bahaya, sembilan orang tertawa; dan orang yang akhirnya mendapat kejadian buruk adalah orang kesebelas itu.
#AI安全 #kecerdasan buatan
Orang yang mengucapkan itu bernama Jacob Coxon. Ia berhenti dari Anthropic pada 10 September; sebelumnya ia bekerja di OpenAI. Kalimat aslinya adalah: para pengembang AI sendiri percaya bahwa dalam sepuluh tahun ke depan, probabilitas kepunahan manusia akibat AI tingkat lanjut akan lebih dari sepuluh persen. Angka yang sama juga ditegaskan oleh Evan Hubinger, yang menangani penyelarasan (alignment) di perusahaan tersebut. Dua orang ini: yang satu sudah pergi, yang lainnya masih tetap di tempat.
BBC melaporkan pada 19 September bahwa di lab, lebih banyak orang mendengar peringatan semacam itu. Namun respons mereka bukan panik, melainkan tertawa. Mereka tentang mesin ini justru tahu lebih banyak daripada orang-orang di luar.
Angka satu dari sepuluh itu—keistimewaannya ada pada kenyataan bahwa ia tak benar-benar bisa diwujudkan. Besar sampai membuat orang terdiam, kecil sampai tidak perlu pergi hari ini. Maka yang bicara terus bicara, yang tertawa tetap tertawa, sementara valuasi tetap naik. Ketika narasi risiko berubah menjadi semacam slogan lisan, ia tak lagi bisa menghentikan siapa pun.
Kalau benar-benar membahas risiko, yang terlihat bukanlah mesinnya, melainkan tangan yang menekan tombol—dan siapa yang bertanggung jawab setelah tombol itu ditekan. Perusahaan-perusahaan dalam daftar—OpenAI, Anthropic, Meta, DeepMind—semuanya berdiri di sana seperti itu; tak ada yang lebih dulu mematikan mesinnya. Urusan tanggung jawab: jika diseret sampai sepuluh tahun ke depan, ujungnya sama saja dengan tidak ada.
Orang yang memanggil “serigala datang” belum tentu percaya pada serigalanya. Orang yang tertawa saat “serigala datang” juga belum tentu tidak takut. Satu ruangan penuh orang yang tidak ada yang pergi lebih dulu—barangkali itulah bentuk paling umum dari “ketenangan” yang terjadi saat ini.
Dari sepuluh orang yang menyebut bahaya, sembilan orang tertawa; dan orang yang akhirnya mendapat kejadian buruk adalah orang kesebelas itu.
#AI安全 #kecerdasan buatan
