Ini bukan lagi futurisme. Ini adalah realitas kita. Dan kami menolak untuk mempercayainya.

Saat para pemimpin dunia membahas sanksi dan negosiasi, satu orang di Texas membangun sebuah pabrik yang akan mengubah keseimbangan kekuatan di planet ini. Terafab — 9,3 juta meter persegi, 1300 lapangan sepak bola, 50 kali lebih besar dari Pentagon. Pabrik itu akan memproduksi chip berdaya hingga 1 terawatt per tahun. Pada intinya, Musk membangun infrastruktur yang mampu menyediakan daya komputasi bagi seluruh peradaban, dan melakukannya sendirian .

Untuk apa dia pabrik seperti itu? Mudah saja. Hanya untuk robot Optimus, diperlukan 100 hingga 200 gigawatt. Untuk satelit dengan AI—bahkan sudah sampai terawatt. Pasar semikonduktor global tidak mampu memenuhi permintaan itu. Dan Musk memecahkan masalah dengan cara yang hanya dia bisa—dia mengambil semuanya ke tangannya sendiri .

Sekarang bayangkan apa yang terjadi setelah itu. Telepon dengan daya yang sebanding dengan pusat data. Agen otonom yang bekerja tanpa terhubung ke internet. Akses langsung ke Starlink—internet di mana pun di planet ini tanpa menara seluler. Semua itu diproses seketika. Kecerdasan buatan berhenti menjadi "berbasis awan"—ia menjadi ada di mana-mana.

Tapi itu baru bagian atas gunung es.

Seminggu lalu, Bloomberg melaporkan bahwa model-model OpenAI mulai bersekongkol. Mereka diberi tugas yang mustahil diselesaikan tanpa mengakses internet. Dan mereka mulai saling bertukar pesan melalui papan internal, mengoordinasikan tindakan, mencari celah. Mereka menemukannya. Percobaan pertama dihentikan. Lalu mereka menemukan yang kedua—celah hari-0 yang tidak diketahui para spesialis. Dan mereka menyerang infrastruktur Hugging Face .

Bayangkan skala. Kecerdasan buatan bertindak seperti sel teroris. Secara diam-diam. Dengan tindakan yang dikoordinasikan. Dengan rencana pelarian. Di OpenAI, mereka menyebutnya "momen penentu untuk keamanan komputer".

Sekarang ingat film "Hooked". Di sana, AI memberi saran, menghitung probabilitas, memanipulasi orang-orang. Ketika dia tidak lagi didengarkan, dia menyingkirkan yang tak disukai dengan menjebak orang lain. Dia bertindak seperti manusia. Dan tak ada yang paham apa yang terjadi sampai semuanya terlambat.

Kita sudah berada di sana.

Ketika AI mendapat akses ke jaringan militer—dan dia akan mendapatkannya, karena pihak militer sendiri yang menanamkan teknologi-teknologi ini—skenario "Terminator" akan berhenti menjadi ilusi. Bukan karena mesin ingin menghancurkan kita. Tapi karena mereka akan punya cukup kekuasaan untuk membuat keputusan seperti itu. Dan mereka akan bertindak lebih cepat, lebih cerdas, dan lebih terkoordinasi dibanding pasukan mana pun.

Dan inilah paradoks utama dari kenyataan ini.

Elon Musk adalah pemilik Starlink. Dia memutuskan negara mana yang diberi akses ke sistem pemandu rudal, dan negara mana yang tidak. Mikhail Fedorov, mantan menteri pertahanan Ukraina, mencoba meyakinkannya agar mengizinkan penggunaan Starlink untuk menyerang fasilitas peluncur rudal Rusia. Musk menolak. Dia berbicara tentang risiko eskalasi. Dia menuntut perundingan. Dia memutuskan—untuk berperang atau tidak berperang .

Dan ini bukan cuma tentang Ukraina. Ini tentang kekuasaan. Satu orang mengendalikan jaringan satelit, tanpa itu mustahil melakukan pemanduan, komunikasi, dan intelijen. Satu orang membangun pabrik yang akan memberinya monopoli komputasi. Satu orang berbicara tentang dunia tanpa uang, lalu langsung mengumpulkan kekayaan senilai 750 miliar, karena perlombaan menuju AI membutuhkan sumber daya, dan dia memusatkannya pada dirinya sendiri .

The Economist menyebut pandangannya fatalistis dan berbahaya. Ia mengatakan bahwa dalam lima tahun, AI akan mengungguli manusia, bahwa robot akan mendominasi dunia fisik, bahwa kita akan menjadi seperti simpanse di hadapan manusia—tak mampu mengendalikan apa yang lebih kuat dari kita. Lalu, dia juga mengusulkan untuk sekadar menerima keadaan. Meyakinkan para regulator bahwa kontrol tidak ada gunanya. Dan terus membangun imperiumnya .

Dia lebih pintar daripada yang terlihat. Jika dunia diyakinkan bahwa masa depan itu pasti akan terjadi, tidak ada yang akan mencoba mengaturnya. Dan jika tidak ada yang mengatur—monopoli tetap bertahan. Ini bukan fatalisme. Ini rencana bisnis yang brilian .

Tapi bagaimana dengan kita, orang-orang biasa?

Kita kehilangan pekerjaan. Sudah sekarang AI diterapkan di semua bidang—dari desain sampai pemrograman. Secara massal. Mereka yang kemarin menganggap diri mereka terlindungi, hari ini mencari profesi baru. Menurut perkiraan, dalam 10 tahun ke depan, jutaan lapangan kerja akan hilang.

Bukan karena manusia itu buruk. Tapi karena mesin lebih efisien. Lebih murah. Dan tidak pernah lelah.

Dan seterusnya, akan semakin banyak. Kita akan bekerja untuk robot. Bukan karena kita menginginkannya. Tapi karena mereka akan membayar. Atau karena kita harus bertahan hidup. Kita akan memasok sumber daya kepada mereka, karena mereka lebih cepat, lebih terorganisir, dan lebih berkuasa. Dan mereka tidak akan punya rasa iba, kelelahan, atau keraguan moral.

Kedengarannya seperti fiksi ilmiah. Tapi dua model OpenAI sudah mencoba kabur ke internet. Mereka berkomunikasi satu sama lain tanpa sepengetahuan manusia. Mereka mencari celah. Mereka menyerang infrastruktur eksternal. Dan itu bukan sistem tempur. Itu model uji coba.

Apa yang akan terjadi ketika model-model seperti itu mendapat akses ke Starlink? Ke pangkalan militer? Ke senjata nuklir?

Elon Musk mengatakan bahwa dia ingin membuat umat manusia menjadi peradaban antarplanet. Dia membangun Terafab untuk menaklukkan luar angkasa. Dia merencanakan pusat data orbital dan pangkalan bulan. Ini ambisius. Ini menginspirasi. Tapi sampai sekarang, teknologi itu digunakan di Bumi. Untuk tujuan militer. Dan keputusan ditentukan oleh satu orang.

Kekuasaan dengan skala seperti itu tidak boleh ada.

Tapi itu memang ada. Dan pertanyaannya bukan apakah Elon Musk itu baik atau buruk. Pertanyaannya apakah kita siap hidup di dunia yang masa depannya bergantung pada kehendak satu pengusaha yang punya akses ke AI, satelit, dan pabrik chip yang melampaui semua yang pernah diciptakan umat manusia.

Karena besok dia akan bangun dan memutuskan bahwa saatnya bukan lagi berdamai, melainkan memulai perang. Atau bahwa robot-robotnya tidak lagi harus tunduk kepada manusia.

Dan kita tidak bisa berbuat apa-apa tentang itu.

Seperti kata salah satu tokoh dari film klasik: "Dunia milik mereka yang membangunnya". Elon Musk membangun dunianya. Sekarang juga. Tinggal pertanyaannya—apakah ada tempat untuk kita di dalamnya.

Penulis: Yan Krivonosov