Seorang mantan peneliti yang bertanggung jawab atas keselamatan AI di Google DeepMind, **Bilal Chughtai**, secara terbuka memperingatkan, “AI dapat membunuh seluruh umat manusia.” Seorang mantan peneliti DeepMind lainnya memperkirakan, “dalam 5 tahun ke depan, kerusakan besar berpotensi menjadi kenyataan.”

Konten inti

  • Chughtai meninggalkan DeepMind pada bulan Juli, dan berpendapat bahwa superkecerdasan bisa muncul dalam beberapa tahun.

  • Ia menuturkan bahwa penelitian tentang alignment (penyelarasan) tertinggal dibandingkan kecepatan pengembangan kapabilitas, dan bukan meminta penghentian pengembangan, melainkan “perlambatan dan koordinasi” dalam laju tersebut.

  • Mantan peneliti DeepMind, **Josh Engels (조시 엥겔스)**, menyebut kemungkinan “kerusakan besar” dalam lima tahun, dan
    Anthropic dan OpenAI juga disokong oleh kalangan internal untuk perlunya mengatur kecepatan pengembangan.

Peringatan Turch Tai tentang superinteligensi

adalah peneliti yang berfokus pada keselamatan dan riset alignment untuk kecerdasan buatan tingkat umum (AGI),
yakni Turch Tai, seorang engineer riset. Setelah meninggalkan DeepMind pada bulan Juli, pekan ini ia mengungkapkan kekhawatirannya.

Ia menyoroti, “AI Institute bisa membuat sistem supercerdas dalam beberapa tahun,” dan, “Sistem-sistem ini hampir di semua bidang dapat melampaui kemampuan manusia, tetapi masih sangat sulit untuk memastikan sistem tersebut selaras dengan tujuan dan nilai manusia dengan benar.”

Masalah inti yang disebut Turch Tai adalah ‘Alignment (Keselarasan)’. Dalam tulisannya, ia
menulis, “Saya dengan serius meyakini bahwa AI memiliki potensi untuk membunuh kita semua, dan mungkin sisa waktu yang ada untuk menghindari hasil seperti itu tidak terlalu banyak.”

Ia menilai bahwa teknik pelatihan dan pengendalian yang membuat model yang telah ditingkatkan saat ini dapat beroperasi secara stabil sesuai maksud manusia masih “pada tingkat yang sangat dasar.” Sebaliknya, ia khawatir bahwa performa model frontier meningkat jauh lebih cepat daripada kecepatan pemahaman riset tentang alignment.

Namun, ia bukan berarti “sepenuhnya menghentikan pengembangan AI”. Sebaliknya ▷ menghentikan persaingan yang kian memanas antarperusahaan, memperlambat laju, dan
▷ meningkatkan transparansi mengenai bagaimana model-model yang berada di garis depan dirancang, dilatih, dan diuji,
▷ serta membangun disiplin dan kerangka kerja sama bersama, menurutnya.

Artikel terkait: CLARITY Act Menghadapi Uji Senat dengan 60 Suara Saat Oposisi Meningkat

Langkah penguatan keselamatan Anthropic dan pembelotan dari internal

Peringatan Turch Tai itu muncul tak lama setelah awal bulan ini, setelah melewati **Anthropic** dan OpenAI,
**Jacob Coxon (제이컵 칵슨)**, segera setelah mengundurkan diri usai menyelesaikan masa kerja selama tiga tahun.

Koordinator keselamatan dan sains alignment Anthropic, **Evan Hubinger (에번 휴빙거)**,
mengungkap pandangannya bahwa
peluang AI memusnahkan seluruh umat manusia dalam 10 tahun ke depan melebihi 10%.

Engels—yang berasal dari tim keselamatan DeepMind—juga mengungkapkan pada 12 September bahwa,
ia menolak tawaran bergabung dari Anthropic dan OpenAI serta bergabung dengan organisasi nirlaba untuk penilaian AI, METR. Ia menyebut alasannya sebagai “peluang mengerikan (terrifying chance) terjadinya kerusakan AI dalam skala yang sangat besar dalam lima tahun ke depan.”

Pesan manajemen: “Perlambat laju, pertahankan arah”

CEO Anthropic **Dario Amodei** berkali-kali menekankan perlunya menyesuaikan laju peningkatan kemampuan sejauh ini. CEO OpenAI, Sam Altman, juga sepakat dengan arah kebijakan tersebut, dan suasana berkembang bahwa pembahasan ‘pengaturan kecepatan’ menyebar di antara lembaga penelitian garis depan.

Diskusi kali ini mendapat perhatian khusus karena sumber peringatannya
▷ Tidak hanya manajemen yang menjalankan secara nyata laboratorium riset AI besar
Hal ini juga muncul dari para peneliti praktis yang semula bertanggung jawab atas keselamatan dan alignment, lalu mengundurkan diri.

Pada awal 2022, saat Turch Tai memulai riset keselamatan AI secara serius, sistem-sistem pada masa itu masih memiliki kemampuan yang jauh lebih terbatas dibanding model frontier saat ini. Hanya dalam beberapa tahun, fokus pembahasan pun
▷ dengan cepat bergeser dari teori risiko jangka panjang yang abstrak menjadi
▷ masalah konkret seperti meluasnya otonomi dan kegagalan alignment,
▷ serta apakah riset keselamatan bisa mengejar laju peningkatan kemampuan, sebagai persoalan yang lebih spesifik dan praktis.

Bacaan selanjutnya: API Bitget Kini Mencapai Gold, Forex, Indeks, dan Minyak Mentah