【Peringatan orang dalam AI tentang risiko pemusnahan dunia, pihak resmi hanya menjawab: tidak khawatir 🤖】
Tambahkan grup obrolan penggemar X先生 di beranda 🔥
Pimpinan urusan alignment di Anthropic, Hubinger, mengeluarkan satu kalimat. Ia mengatakan bahwa dalam sepuluh tahun ke depan, peluang AI memusnahkan seluruh umat manusia melebihi 10%—itu persis kata-katanya. Salah satu rekan kerjanya pun langsung mengundurkan diri, karena mengatakan dua perusahaan papan atas sedang berjudi dengan nyawa orang-orang. Di minggu yang sama, belasan orang dalam dari OpenAI dan Anthropic secara terbuka menyerukan agar kecepatan diperlambat terlebih dahulu. Saat ditanya oleh wartawan soal ini, pihak resmi hanya menjawab satu kalimat: Saya sama sekali tidak khawatir.
Mari bedakan dulu dua macam kekhawatiran. Satu: takut suatu hari AI tiba-tiba lepas kendali. Yang lain: takut AI mulai mengubah dirinya sendiri. Yang belakangan adalah hal yang sebenarnya mereka takuti. Anthropic menyebutnya sebagai peningkatan diri yang rekursif (recursive self-improvement). Jika AI bisa ikut merancang model generasi berikutnya, maka laju perkembangan tidak lagi dikendalikan oleh manusia, dan juga tidak terikat oleh kontrak.
Yang benar-benar patut diperhatikan adalah kecepatannya. Anthropic sendiri mengungkapkan bahwa jumlah kode yang diserahkan seorang insinyur per kuartal sekarang adalah 8 kali rata-rata tingkat 2021 hingga 2025. Saat ini, tenaga utama untuk menulis kode sudah berganti menjadi AI, sementara manusia hanya bertugas memberi konfirmasi. Namun, kecepatan peninjauan manusia tidak ikut bertambah cepat. Di sinilah masalahnya: kemampuan terus meningkat, tetapi rem masih tetap berada di tangan segelintir orang.
Untuk kripto, garis ini sebenarnya tidak jauh—bahkan sudah di depan pintu. Semakin kuat AI, semakin terkonsentrasi kendali atas penetapan harga komputasi dan data di tangan segelintir perusahaan. Nilai jual kripto adalah dapat diverifikasi dan dapat dilacak, tepat menutup celah yang paling sulit dijelaskan oleh AI. Maka setiap kali terjadi kepanikan keamanan AI, kisah tentang desentralisasi komputasi dan verifikasi di rantai selalu diceritakan ulang. Inilah juga alasan narasi semacam ini bisa terus diangkat untuk diperdagangkan.
Menurutmu, perdebatan keamanan AI kali ini akan lebih dulu diwujudkan lewat regulasi, atau teknologi dulu yang “berlari melampaui”?
Tambahkan grup obrolan penggemar X先生 di beranda 🔥
Pimpinan urusan alignment di Anthropic, Hubinger, mengeluarkan satu kalimat. Ia mengatakan bahwa dalam sepuluh tahun ke depan, peluang AI memusnahkan seluruh umat manusia melebihi 10%—itu persis kata-katanya. Salah satu rekan kerjanya pun langsung mengundurkan diri, karena mengatakan dua perusahaan papan atas sedang berjudi dengan nyawa orang-orang. Di minggu yang sama, belasan orang dalam dari OpenAI dan Anthropic secara terbuka menyerukan agar kecepatan diperlambat terlebih dahulu. Saat ditanya oleh wartawan soal ini, pihak resmi hanya menjawab satu kalimat: Saya sama sekali tidak khawatir.
Mari bedakan dulu dua macam kekhawatiran. Satu: takut suatu hari AI tiba-tiba lepas kendali. Yang lain: takut AI mulai mengubah dirinya sendiri. Yang belakangan adalah hal yang sebenarnya mereka takuti. Anthropic menyebutnya sebagai peningkatan diri yang rekursif (recursive self-improvement). Jika AI bisa ikut merancang model generasi berikutnya, maka laju perkembangan tidak lagi dikendalikan oleh manusia, dan juga tidak terikat oleh kontrak.
Yang benar-benar patut diperhatikan adalah kecepatannya. Anthropic sendiri mengungkapkan bahwa jumlah kode yang diserahkan seorang insinyur per kuartal sekarang adalah 8 kali rata-rata tingkat 2021 hingga 2025. Saat ini, tenaga utama untuk menulis kode sudah berganti menjadi AI, sementara manusia hanya bertugas memberi konfirmasi. Namun, kecepatan peninjauan manusia tidak ikut bertambah cepat. Di sinilah masalahnya: kemampuan terus meningkat, tetapi rem masih tetap berada di tangan segelintir orang.
Untuk kripto, garis ini sebenarnya tidak jauh—bahkan sudah di depan pintu. Semakin kuat AI, semakin terkonsentrasi kendali atas penetapan harga komputasi dan data di tangan segelintir perusahaan. Nilai jual kripto adalah dapat diverifikasi dan dapat dilacak, tepat menutup celah yang paling sulit dijelaskan oleh AI. Maka setiap kali terjadi kepanikan keamanan AI, kisah tentang desentralisasi komputasi dan verifikasi di rantai selalu diceritakan ulang. Inilah juga alasan narasi semacam ini bisa terus diangkat untuk diperdagangkan.
Menurutmu, perdebatan keamanan AI kali ini akan lebih dulu diwujudkan lewat regulasi, atau teknologi dulu yang “berlari melampaui”?
