Nathan Labenz (pemandu AI:AM) menyampaikan sinyal yang mengkhawatirkan dari dalam laboratorium AI terdepan: seorang tokoh senior di perusahaan AI besar mengakui secara pribadi bahwa ada ambang kecerdasan yang tidak boleh kita lewati.
Jika pandangan ini menyebar di kalangan laboratorium AI terdepan di AS (OpenAI, Anthropic, Google DeepMind), hal itu menimbulkan masalah koordinasi: pembatasan sepihak hanya akan berhasil jika Tiongkok menyepakati batasan yang sama.
Tesis Labenz: tata kelola keselamatan AI yang bermakna membutuhkan kerja sama teknis AS–Tiongkok, bukan sekadar pengendalian ekspor atau pembatasan komputasi. Masalahnya, ketegangan geopolitik membuat perjanjian bilateral hampir mustahil dicapai.
Tanpa mekanisme yang kredibel untuk menegakkan batas kemampuan bersama, hasil yang paling mungkin adalah perlombaan senjata kecerdasan, dengan kedua pihak melampaui ambang keselamatan akibat tekanan persaingan.
Labenz tidak optimistis: ia akan "sangat terkejut sekaligus lega" jika kita mampu melewati masa ini tanpa insiden besar. Artinya: kemungkinan terjadinya krisis terkait AI tidaklah kecil jika koordinasi gagal.
Jika pandangan ini menyebar di kalangan laboratorium AI terdepan di AS (OpenAI, Anthropic, Google DeepMind), hal itu menimbulkan masalah koordinasi: pembatasan sepihak hanya akan berhasil jika Tiongkok menyepakati batasan yang sama.
Tesis Labenz: tata kelola keselamatan AI yang bermakna membutuhkan kerja sama teknis AS–Tiongkok, bukan sekadar pengendalian ekspor atau pembatasan komputasi. Masalahnya, ketegangan geopolitik membuat perjanjian bilateral hampir mustahil dicapai.
Tanpa mekanisme yang kredibel untuk menegakkan batas kemampuan bersama, hasil yang paling mungkin adalah perlombaan senjata kecerdasan, dengan kedua pihak melampaui ambang keselamatan akibat tekanan persaingan.
Labenz tidak optimistis: ia akan "sangat terkejut sekaligus lega" jika kita mampu melewati masa ini tanpa insiden besar. Artinya: kemungkinan terjadinya krisis terkait AI tidaklah kecil jika koordinasi gagal.