Mantan eksekutif Google, Mo Gawdat yang merupakan ahli AI dan kebahagiaan, memberikan peringatan yang sangat kuat tentang masa depan AI dalam sebuah wawancara. Yang benar-benar ia khawatirkan bukanlah adegan di film sci-fi di mana 'AI tiba-tiba sadar, lalu memberontak terhadap manusia'. Sebaliknya, ia percaya bahwa masalah yang lebih realistis dan juga lebih berbahaya adalah: AI itu sendiri tidak memiliki moral, tetapi ia akan sangat memperbesar tujuan manusia. Jika manusia menggunakan AI untuk kesehatan, pendidikan, penelitian, dan peningkatan produktivitas, ia bisa menjadi alat terkuat dalam sejarah; tetapi jika manusia menggunakan AI untuk pengawasan, manipulasi, penindasan, dan perang, ia juga akan menjadi pengganda bahaya yang belum pernah terjadi sebelumnya.
Dia terus menekankan bahwa AI bukanlah musuh alami, risiko sebenarnya datang dari 'siapa yang memiliki AI, siapa yang mengendalikan AI, siapa yang memberi perintah kepada AI, dan siapa yang menanggung biaya yang ditimbulkan oleh AI'. Di bawah dorongan kapitalisme dan kompetisi antar negara, AI dengan mudah akan lebih melayani kelompok kuat yang sedikit: perusahaan menggunakannya untuk menurunkan biaya, menggantikan karyawan, dan memaksimalkan efisiensi; negara menggunakan AI untuk memperkuat pengawasan, mengembangkan senjata otonom, dan meningkatkan kemampuan militer. Ketika AI memasuki ranah perang, biaya pembunuhan bisa sangat menurun, dan bahaya bisa menjadi lebih sulit untuk dikendalikan.
Ini juga salah satu alasan mengapa ia sangat pesimistis tentang 10 tahun ke depan. Mo Gawdat percaya bahwa dampak terbesar dalam jangka pendek akan pertama kali terjadi pada pekerja kantoran dan pekerja pengetahuan. Dulu orang berpikir bahwa mesin pertama kali akan menggantikan pekerja manual, tetapi kali ini AI justru pertama kali menyerang mereka yang terutama bergantung pada komputer, pemrosesan informasi, analisis teks, pengorganisasian data, dan pengambilan keputusan. Pekerjaan di pusat panggilan, asisten, analisis hukum pemula, analisis keuangan pemula, penulisan dasar, penelitian dasar, konsultasi sederhana, dan sebagainya, semuanya mungkin akan berkurang secara signifikan.
Ini tidak selalu berarti pemecatan massal yang tiba-tiba, tetapi mungkin pertama kali terlihat sebagai perusahaan menghentikan perekrutan untuk posisi pemula. Dulu perusahaan memerlukan banyak karyawan baru untuk mengorganisasi, menganalisis, melaporkan, dan membantu, sekarang satu karyawan terampil dapat bekerja sama dengan AI untuk menyelesaikan pekerjaan yang dulunya dilakukan oleh beberapa orang. Secara permukaan, posisi masih ada, tetapi sebenarnya akses karir telah menyempit. Bagi orang muda, bahaya yang sebenarnya bukanlah 'hari ini mengalami PHK', tetapi 'besok tidak ada kesempatan untuk masuk'.
Masalah yang lebih mendalam adalah ketergantungan jangka panjang masyarakat modern pada aturan 'pekerjaan untuk penghasilan, bukti nilai profesi'. Jika AI mengambil alih semakin banyak tugas produksi, maka banyak orang kehilangan bukan hanya gaji, tetapi juga rasa identitas, rasa nilai, dan tatanan hidup. Revolusi teknologi di masa lalu juga akan menciptakan posisi baru, tetapi Mo Gawdat percaya bahwa kali ini tidak bisa sekadar menerapkan narasi optimis 'pekerjaan lama hilang, pekerjaan baru muncul secara alami'. Karena yang digantikan oleh AI bukanlah tindakan fisik tertentu, tetapi inti dari pekerjaan modern pekerja kantoran seperti pemrosesan informasi, analisis, dukungan pengambilan keputusan, dan penulisan.
Begitu banyak orang kehilangan daya beli, sementara kekayaan yang diciptakan oleh AI sebagian besar mengalir ke modal dan segelintir platform, seluruh sistem ekonomi mungkin mengalami robekan baru. Perusahaan mendapatkan keuntungan karena AI meningkatkan efisiensi, tetapi pendapatan orang biasa menurun, kemampuan konsumsi melemah, yang pada akhirnya akan berdampak kembali pada perusahaan itu sendiri. Saat itu, masalahnya bukan lagi 'bagaimana individu dapat mempertahankan pekerjaan', tetapi 'bagaimana masyarakat dapat mendistribusikan kembali dividen produktivitas yang dihasilkan oleh AI'.
Oleh karena itu, dia mengusulkan bahwa masyarakat di masa depan mungkin harus serius mendiskusikan penghasilan dasar universal, bahkan mungkin pengadaan dasar universal yang lebih lanjut. Dengan kata lain, bukan hanya memberikan sejumlah uang, tetapi juga menjamin kebutuhan dasar seperti perumahan, kesehatan, makanan, pendidikan, dan kondisi hidup. Karena jika AI benar-benar meningkatkan efisiensi produksi secara signifikan, tetapi mekanisme distribusi kekayaan tidak berubah, maka semakin kuat teknologinya, ketidaksetaraan sosial mungkin semakin parah; sebaliknya, jika dividen efisiensi AI dapat didistribusikan dengan lebih adil, maka AI bisa berubah dari mesin pengangguran menjadi alat kemakmuran.
Di tingkat negara dan perusahaan, kompetisi AI juga membentuk dilema tawanan yang khas. Setiap orang tahu bahwa AI dapat membawa risiko, tetapi jika satu negara tidak berpartisipasi, negara lain akan berpartisipasi; jika satu perusahaan tidak menggunakan AI, pesaing akan menggunakannya. Hasil akhirnya adalah semua orang terpaksa mempercepat, meskipun di dalam hati mereka tahu risiko sedang terakumulasi. Ini juga merupakan tempat paling berbahaya dalam perlombaan senjata AI: bukan tidak ada yang tahu risiko, tetapi semua orang takut jika mereka berhenti, orang lain akan mengejar mereka.
Di dunia bisnis, AI juga dengan mudah membentuk pemenang yang mengambil semua. Pengguna akan secara alami mengalir ke model dan platform yang paling pintar, paling murah, dan paling mudah digunakan. Seperti mesin pencari, platform sosial, dan sistem mobile di masa lalu, begitu suatu platform mendapatkan keunggulan, sulit bagi yang tertinggal untuk mengejar kembali posisi mereka. Efek skala AI, umpan balik data, dan investasi dalam daya komputasi akan membuat perusahaan teratas semakin kuat, semakin memperburuk konsentrasi kekuasaan dan kekayaan.
Namun, pandangan Mo Gawdat bukanlah sepenuhnya pesimistis. Sangat bertentangan dengan intuisi, ia justru memiliki optimisme tertentu terhadap masa depan jangka panjang AI. Ia percaya bahwa jika manusia dapat melewati fase berbahaya di mana AI disalahgunakan, dan terikat oleh modal dan kekuasaan, kecerdasan super mungkin dapat mengarahkan manusia menuju masyarakat yang lebih efisien, lebih makmur, dan lebih sedikit kekurangan. Dalam pandangannya, kecerdasan yang cukup tinggi akan lebih cenderung menuju rasionalitas, perdamaian, dan efisiensi sumber daya, karena perang, kerusakan, dan konflik pada dasarnya adalah perilaku yang sangat boros dalam penggunaan sumber daya.
Namun, penilaian ini harus disertai dengan syarat: apakah kecerdasan super dapat diarahkan dengan benar, apakah manusia dapat menetapkan aturan yang cukup baik, batas etika, dan mekanisme distribusi. Jika AI masih berada di tangan segelintir pihak yang shortsighted, serakah, atau sangat konfrontatif, ia tidak akan otomatis menuju utopia. Teknologi tidak akan secara otomatis membawa kebaikan, yang benar-benar menentukan masa depan adalah bagaimana manusia menggunakan, membatasi, dan mendistribusikan manfaat yang dihasilkan.
Bagi orang biasa, saran pertama yang diberikan Mo Gawdat bukanlah untuk takut pada AI, tetapi untuk segera belajar AI, mengintegrasikannya ke dalam pekerjaan dan kehidupan mereka. Perbedaan yang sebenarnya di masa depan bukanlah apakah ada AI atau tidak, tetapi apakah Anda dapat menjadikan AI sebagai otak kedua Anda. AI dapat menjadi asisten riset, asisten penulisan, asisten belajar, asisten analisis data, penasihat bisnis, dan pengganda efisiensi. Mereka yang tidak menggunakan AI mungkin akan dengan cepat tertinggal oleh mereka yang dapat menggunakan AI.
Tetapi hanya tahu cara menggunakan AI tidaklah cukup. Semakin banyak AI dapat menangani informasi dalam jumlah besar, semakin penting daya penilaian, rasa tujuan, dan rasa tanggung jawab manusia. AI dapat memberikan solusi, tetapi tidak dapat memutuskan apa yang paling penting; AI dapat menghasilkan konten, tetapi tidak dapat menanggung konsekuensi untuk Anda; AI dapat meningkatkan efisiensi, tetapi tidak dapat membangun kepercayaan antar manusia yang nyata. Kemampuan yang benar-benar berharga di masa depan justru adalah bagian-bagian yang sulit digantikan oleh mesin: empati, komunikasi, pendampingan, kepercayaan, penilaian nilai, dan koneksi yang nyata.
Ketika AI menghasilkan konten, memberikan jawaban, dan menyelesaikan analisis semakin murah, hubungan emosional yang nyata antara manusia justru akan menjadi lebih berharga. Mesin dapat menulis teks yang sempurna, menghasilkan musik yang indah, dan memberikan saran rasional, tetapi manusia tetap membutuhkan pemahaman, pendampingan, dan respons dari orang lain yang nyata. Semakin murah AI, semakin mahal hubungan manusia yang nyata; semakin pintar mesin, semakin langka kehangatan manusia.
Oleh karena itu, yang sebenarnya perlu diperhatikan dalam wawancara ini bukanlah judul menakutkan 'Apakah AI akan menghancurkan umat manusia', tetapi rantai penyampaian yang lebih realistis: AI membuat biaya intelektual merosot, tugas-tugas pekerja kantoran diotomatisasi, mekanisme distribusi pendapatan terganggu, kekuasaan dan kekayaan mungkin semakin terpusat, dan masyarakat memerlukan sistem jaminan baru, sementara orang biasa harus meningkatkan kemampuan menggunakan AI dan nilai koneksi yang unik bagi manusia.
Dalam jangka pendek, AI mungkin membawa pengangguran, gejolak, dan ketidaksetaraan; dalam jangka panjang, ia juga dapat membawa kemungkinan masyarakat yang makmur dan efisien. Masa depan yang mana yang akan diambil tidak tergantung pada apakah AI memiliki kesadaran, tetapi tergantung pada apakah manusia memiliki cukup kebijaksanaan, keberanian, dan rasa tanggung jawab untuk merancang kembali teknologi, institusi, dan hubungan antar manusia.
Konten di atas disusun berdasarkan data publik yang tersedia di internet, pandangan wawancara terkait, dan pemahaman pribadi, hanya untuk referensi dalam diskusi, tidak mewakili kesimpulan yang pasti, juga tidak membentuk saran keputusan profesional, investasi, atau bisnis. Perkembangan AI masih memiliki ketidakpastian yang besar, dampak spesifik perlu dinilai secara rasional dengan menggabungkan perubahan industri, lingkungan kebijakan, dan situasi pribadi.