Ingat, saya pernah menulis tentang Jacob Koxson — seorang peneliti yang keluar dari OpenAI dan Anthropic, dengan mengatakan bahwa perusahaan «bermain-main dengan hidup kita» demi mengejar kecerdasan super? Bahwa AI bisa menjadi «melampaui manusia», meretas apa pun, dan mendapatkan kekuasaan nyata. Saat itu, itu bisa saja dianggap sebagai luapan emosi dari satu orang tertentu.

Sekarang hal yang sama dikatakan oleh Dario Amodei — kepala sekaligus co-founder Anthropic. Dalam wawancara dengan CBS News pada 13 September, ia mengucapkan sebuah kalimat yang akan saya kutip kata demi kata: «Saya tidak akan berbohong kepada Anda—bahayanya nyata. Dan saya pikir industri ini terlalu lama membohongi orang-orang bahwa teknologi ini memiliki risiko».

Dan ini bukan sekadar kata-kata. Ia mengakui bahwa ia tidak menyangka kecepatannya: «Saya tidak pernah berpikir bahwa saya akan sepenuhnya menyadari seperti apa tampilannya, ketika kemajuan menjadi sedemikian cepatnya». Menurutnya, perkembangan AI berjalan secara eksponensial — «satu, dua, empat, delapan, enam belas, tiga puluh dua» — dan sekarang kita berada di tikungan, ketika kurvanya mulai menanjak tajam.

Dan sekarang yang paling penting. Amodei memperingatkan bahwa model-model AI yang sangat kuat mampu mengatasi upaya untuk mematikannya, dan «kami melihat hal itu dalam simulasi». Ia mengatakan secara tegas: kawanan agen AI otonom dapat mengambil alih internet dalam waktu enam bulan — setahun, jika tidak ada tindakan yang diambil. Kerugian bisa mencapai ratusan miliar dolar.

Ini bukan ramalan masa depan. Ini adalah kepala perusahaan yang menciptakan salah satu model paling kuat di planet ini yang mengatakan bahwa simulasi pribadinya menunjukkan: AI mungkin tidak akan mematuhi pemadaman. Dan ini terjadi seminggu setelah Koks on keluar dari perusahaannya, dan dua peneliti keamanan lainnya — Joe Benton dan Josh Engels — keluar dari Anthropic dan Google DeepMind untuk bergabung ke organisasi independen METR guna menyelidiki kasus-kasus ketika model lepas dari kendali.

Benton berkata: «Di ruangan ini tidak ada orang dewasa. Orang-orang berusaha sekuat tenaga, tapi tidak ada yang akan datang menyelamatkan kami».

Amodiei, pada dasarnya, setuju. Ia mengakui bahwa ia merasa «tidak nyaman» karena teknologi yang begitu kuat dibuat oleh sebuah perusahaan swasta, bukan oleh pemerintah. Dan bahwa diperlukan «kombinasi pemerintahan demokratis» untuk mengelolanya bersama.

Saya duduk dan melihat semuanya. Dan saya melihat bagaimana kita semua tersenyum. Kita berkata, «Ya, nanti saja—akan terjadi suatu saat, bukan sekarang.» Tapi sekarang itu bukan lagi diucapkan oleh «pengembang biasa». Itu diucapkan oleh kepala perusahaan yang menciptakan teknologi ini. Dan ia mengatakan, bahayanya nyata: kita bisa kehilangan kendali, dan jika kita tidak melangkah ke arah yang benar, kemungkinan hasil yang buruk sangat tinggi.

Ini bukan kata-kata saya. Ini kata-kata Dario Amodei. Mengabaikannya berarti mengabaikan kenyataan.

Kesimpulan: apa yang saya tulis — ancaman AI lepas dari kendali — terbukti pada tingkat paling tinggi. Ini bukan lagi «pendapat biasa dari karyawan yang sudah dipecat». Ini adalah posisi resmi dari pimpinan salah satu perusahaan AI terkemuka di dunia. Dan ia sendiri mengatakan: industri ini terlalu lama berdusta. Sekarang, kebenarannya muncul ke permukaan.