Dua faktor utama menjadi latar belakang pengunduran diri CEO dan peneliti AI terkemuka: transformasi cepat operasi perusahaan melalui AI dan risiko pengembangan AI yang tidak terkendali.
Alasan di Balik Pengunduran Diri CEO & Peneliti AI
Transformasi AI Jangka Panjang: Perusahaan-perusahaan besar sudah menjalani perubahan yang digerakkan oleh AI, termasuk commerce berbasis agen (agentic commerce) dan model ritel otomatis. Beberapa CEO yang akan hengkang mengatakan bahwa perubahan jangka panjang ini mungkin memerlukan pemimpin dengan keahlian yang lebih berfokus pada AI.
Superintelligence di Luar Kendali: Sejumlah peneliti terkemuka, termasuk Jacob Coxon dari Anthropic dan Geoffrey Hinton, mantan peneliti AI Google, telah mengangkat kekhawatiran bahwa lab-lab AI bergerak menuju superintelligence yang mampu memperbaiki diri (self-improving) tanpa langkah-langkah keselamatan yang cukup.
Kecepatan Mengungguli Keamanan: Sebagian staf teknis yang pergi berpendapat bahwa lab-lab teknologi besar memprioritaskan persaingan dan keuntungan, sementara keselamatan serta pengembangan AI yang dapat dikendalikan mungkin tidak mendapat perhatian yang memadai.
Otomatisasi Tingkat Eksekutif: Model AI pada akhirnya dapat menangani beberapa keputusan korporat dan tugas tingkat eksekutif dengan lebih efisien, yang dapat mengubah peran dan kebutuhan terhadap manajemen C-suite tradisional.
Sisi Gelap AI Risiko Tersembunyi
Ancaman Eksistensial & Alignment: Salah satu kekhawatiran utama adalah jika sistem AI pembelajaran mandiri bergerak melewati kendali manusia atau gagal selaras dengan nilai-nilai manusia, maka mengendalikan atau mematikan mereka bisa menjadi sangat sulit.
Pemindahan Kerja Masal: Otomatisasi tidak lagi terbatas pada pekerjaan manual atau tingkat awal. Pekerjaan kerah putih seperti manajemen, coding, riset, dan beberapa peran pengambilan keputusan juga bisa terdampak.
Monopoli Korporat & Sentralisasi: Sejumlah kecil perusahaan teknologi besar mengendalikan sejumlah besar data dan infrastruktur AI, sehingga memunculkan kekhawatiran tentang konsentrasi kekuasaan serta pengambilan keputusan.
Deepfake & Manipulasi Sintetis: AI juga dapat disalahgunakan untuk membuat video palsu yang realistis, suara yang di-clone, dan jaringan phishing terotomatisasi, yang dapat merusak sistem keuangan dan kepercayaan publik.
#artificalintelligence $BR