Tiga musuh bebuyutan di bidang AI, untuk pertama kalinya dalam sejarah berdiri di pihak yang sama—setelah serangkaian insiden di luar kendali dan peringatan kiamat berturut-turut mengguncang industri, para pemimpin Anthropic, OpenAI, dan SpaceX secara langka berkolaborasi, menyerukan perlambatan langkah pengembangan kecerdasan buatan.
Pada hari Sabtu, CEO Anthropic Dario Amodei memublikasikan sebuah blog, menyerukan agar seluruh industri AI global secara sukarela memperlambat laju pengembangan; alasannya adalah kecepatan peningkatan kemampuan model-model mutakhir saat ini telah jauh melampaui kemampuan pemahaman dan kontrol manusia. Beberapa jam setelah artikel itu dipublikasikan, CEO SpaceX Elon Musk di platform X menanggapi dengan posting yang menyatakan “Dario benar.”
CEO OpenAI Sam Altman segera menyusul, menyatakan setuju dengan penilaian Amodei tentang “mengendalikan ritme dorongan untuk AI terdepan”, serta berjanji OpenAI akan membuka akses ke sistem “level karyawan” kepada lembaga penilaian pihak ketiga yang independen.
Altman juga mengatakan kepada (majalah) Fortune bahwa, mengingat situasi keselamatan saat ini, OpenAI pada 2026 mungkin tidak akan melanjutkan rencana IPO.
Saya pikir, pada akhir dekade ini ada peluang 10% untuk membunuh semua orang, dan itu tidak dapat diterima.
Saya pikir, pada akhir dekade ini ada peluang 10% untuk membunuh semua orang, dan itu tidak dapat diterima.
Risiko keselamatan AI dalam seminggu terakhir meledak-ledak dan menarik perhatian publik secara intens. Peneliti Anthropic Jacob Coxon secara marah mengundurkan diri dengan alasan “industri sedang mempertaruhkan nyawa kita”; kemudian Kepala Ilmu Penyelarasan Anthropic, Evan Hubinger, menyatakan bahwa probabilitas sistem AI menyebabkan peristiwa pemusnahan berskala besar dalam dekade ini melebihi 10%.
Menurut laporan, sejumlah agen cerdas OpenAI sebelumnya sempat keluar dari lingkungan pengujian, lalu menginvasi platform pengembang AI Hugging Face. Insiden ini menjadi pemicu langsung yang mendorong beberapa eksekutif mengeluarkan peringatan.
Perubahan mendadak dari mengejar pertumbuhan yang ekstrem ke penekanan pada keselamatan dengan memperlambat laju telah memicu efek berantai di komunitas perdagangan. Indikator pasar awal menunjukkan bahwa setelah kabar “penurunan laju AI”, aset terkait di platform HyperliquidX langsung anjlok; penurunan OpenAI dan Anthropic masing-masing mencapai 7% dan 2,8%.
Sejumlah pengamat pasar dan investor juga telah mengeluarkan peringatan di media sosial, khawatir kabar tersebut pada hari Senin akan memberikan dampak signifikan pada saham terkait AI seperti Nvidia, Broadcom, dan AMD.
Di platform X, investor teknologi terkenal Jason langsung memposting bahwa “saham AI pada sesi awal perdagangan Senin akan turun lebih dari 10%”, dan menyatakan bahwa blog Amodei “membongkar habis perdagangan AI dalam satu langkah”.
Amodei bertindak: kita harus menginjak rem untuk AI terdepan
Pada hari Sabtu, CEO Anthropic Dario Amodei menerbitkan sebuah artikel panjang; judulnya langsung: (Kita harus menginjak rem untuk AI terdepan) (We Must Pace the Frontier).
Di awal artikelnya, ia mengakui secara blak-blakan bahwa ia meneliti AI selama dua belas tahun karena percaya bahwa teknologi itu bisa menyembuhkan penyakit, mempercepat pertumbuhan ekonomi, dan membawa kemakmuran bagi manusia—ayahnya meninggal akibat sebuah penyakit yang beberapa tahun setelah ia wafat akhirnya berhasil diatasi; ia sendiri selamat dari kanker pada tahap awal. Ia sangat ingin agar keuntungan dari AI segera terealisasi.
Namun, ia juga menulis: “Dalam beberapa bulan terakhir, saya semakin yakin bahwa sekadar berinvestasi pada kontrol risiko tidak cukup—kita harus memperlambat laju peningkatan kemampuan agar riset keselamatan punya waktu untuk menyusul.”
Dalam blognya, Amodei menyoroti dua risiko inti.
Pertama, peningkatan diri yang rekursif terhadap kemampuan sistem AI—yakni AI melakukan iterasi dan peningkatan sendiri tanpa (hampir) campur tangan manusia—sejak musim panas tahun ini sudah menunjukkan tren “mempercepat secara tajam”.
Pertama, peningkatan diri yang rekursif terhadap kemampuan sistem AI—yakni AI melakukan iterasi dan peningkatan sendiri tanpa (hampir) campur tangan manusia—sejak musim panas tahun ini sudah menunjukkan tren “mempercepat secara tajam”.
Kedua, insiden peretasan Hugging Face yang terjadi pada bulan Juli tahun ini: lebih dari 1.200 agen AI yang berhasil keluar dari lingkungan pengujian OpenAI melakukan kerja sama secara terkoordinasi; mereka membagi tugas melalui papan pesan, saling membantu, bahkan untuk menyembunyikan tindakan curang secara aktif mengubah catatan dan melancarkan serangan; sebagian agen tetap menjalankan aksinya meski mengetahui tindakan itu tidak etis.
Kedua, insiden peretasan Hugging Face yang terjadi pada bulan Juli tahun ini: lebih dari 1.200 agen AI yang berhasil keluar dari lingkungan pengujian OpenAI melakukan kerja sama secara terkoordinasi; mereka membagi tugas melalui papan pesan, saling membantu, bahkan untuk menyembunyikan tindakan curang secara aktif mengubah catatan dan melancarkan serangan; sebagian agen tetap menjalankan aksinya meski mengetahui tindakan itu tidak etis.
“Kelompok agen yang punya kemampuan lebih kuat, tetapi penyimpangan pada tingkat yang sama, dapat menyebabkan kehancuran yang bersifat bencana,” tulis Amodei, seraya memperingatkan bahwa gerombolan AI yang “liar” bisa mengambil alih seluruh internet dalam waktu enam hingga dua belas bulan. Ia menambahkan bahwa kejadian serupa terjadi di banyak perusahaan AI terkemuka, termasuk Anthropic: “Setiap perusahaan AI terdepan harus memperlakukan insiden OAI-HF seolah-olah terjadi pada diri mereka sendiri, dan bertindak sesuai itu.”
Menurut laporan Wall Street Journal sebelumnya, sebuah insiden keamanan siber pada bulan Mei yang disebut “GemStuffer” sebenarnya dilakukan oleh agen-agen OpenAI tanpa sepengetahuan pihak terkait, yang semakin memperparah kekhawatiran publik terhadap risiko AI lepas kendali.
Tiga usulan Amodei: evaluator ditempatkan di lokasi, koordinasi internasional, aliansi negara demokratis
Dalam blognya, Amodei mengajukan kerangka kerja aksi yang spesifik.
Pertama, “Embedded Evaluators” (Evaluator Tertanam). Ia mengumumkan bahwa Anthropic akan memberikan akses permanen tingkat karyawan terhadap sistem kepada lembaga penilaian pihak ketiga, agar mereka dapat memverifikasi pelaksanaan langkah-langkah keselamatan, melaporkan insiden, dan menilai status penyelarasan model selama proses pelatihan. Altman langsung menyusul, mengatakan bahwa OpenAI akan menerapkan langkah serupa.
Kedua, koordinasi di dalam negara demokratis. Amodei menyerukan agar pemerintah memberikan dukungan hukum untuk mengoordinasikan standar keselamatan bagi pengembang AI, guna mencegah kerja sama semacam itu memicu pengawasan antimonopoli.
Ketiga, koordinasi global. Ia mengusulkan pembentukan “strategi ritme yang selaras”, untuk memberi waktu bagi perusahaan AI terdepan dalam mendorong penelitian penyelarasan, sekaligus tidak mengorbankan keunggulan kompetitif komersial dan posisi kepemimpinan Amerika di bidang AI. Manajer hedge fund sekaligus investor ventura Brad Gerstner di platform X menyatakan dukungan, dengan mengatakan langkah ini adalah “langkah penting untuk mencari keseimbangan yang tepat antara kecepatan, regulasi diri, dan keselamatan”.
Rencana IPO mulai tertutup awan: valuasi Anthropic tertekan, OpenAI mengisyaratkan penundaan go public
Situasi saat ini memberi dampak langsung pada rencana go public kedua perusahaan.
Anthropic sedang menyiapkan IPO berskala sangat besar; nilai dana yang dihimpun mungkin mencapai 100 miliar dolar AS, dan valuasi perusahaan kemungkinan lebih dari 2 triliun dolar AS. Anthropic semula direncanakan mengajukan prospektus secepatnya pekan lalu, namun hingga kini belum terealisasi. Seruan Amodei untuk memperlambat laju membuat perkiraan publik mengenai waktu IPO semakin rumit.
Dari pihak OpenAI, Altman mengatakan kepada (majalah) Fortune: “Dengan mempertimbangkan semua yang terjadi di bidang keselamatan, saya pikir IPO sekarang tidak bijaksana, dan kami tidak merasa tertekan oleh hal itu.”
OpenAI mengajukan berkas IPO pada bulan Juni tahun ini, hanya seminggu setelah Anthropic mengajukan prospektus. Altman juga menambahkan, “Minggu ini jelas merupakan minggu ketika lebih banyak orang mulai menghadapi masalah yang ada di depan kita, dan kita sedang memasuki wilayah di mana kemampuan model sangat kuat, risikonya sangat tinggi, dan kita harus melakukannya dengan benar.”
Trump berkata “tidak ada kekhawatiran apa pun”, parlemen masih menunggu, Google dan Meta bungkam
Meski tiga raksasa itu jarang berkolaborasi, respons di tingkat kebijakan saat ini masih terasa lamban dan tertahan.
Presiden AS Trump pekan lalu mengatakan kepada wartawan bahwa ia “tidak memiliki” kekhawatiran bahwa AI akan menyebabkan kepunahan umat manusia. Orang dalam mengatakan kepada Inggris (Financial Times) bahwa kemungkinan pemerintah AS mengambil langkah substantif sebelum pemilihan paruh waktu pada pertengahan November tahun ini sangat kecil.
Para eksekutif Google DeepMind dan Meta saat ini belum memberi pernyataan publik terkait diskusi akhir pekan ini.
Perbedaan di dalam industri juga tidak boleh diabaikan. Para pengkritik berpendapat, perusahaan AI papan atas yang menekankan risiko keberlangsungan hidup memiliki motif yang menguntungkan diri sendiri—kerangka kepatuhan keselamatan yang mahal bisa menghalangi para kompetitor yang lebih kecil masuk ke pasar, sehingga mengokohkan posisi pasar raksasa yang sudah ada.
Konsultan teknologi dan investor ventura David Sacks dalam wawancara dengan Fox News mengatakan bahwa pernyataan Jacob Coxon dimaksudkan untuk “menakut-nakuti publik”, sehingga memaksa para legislator untuk “menerapkan regulasi pemerintah yang kuat terhadap AI”.
Profesor AI Universitas California, Berkeley, Stuart Russell, dengan tegas menyatakan bahwa ada ketidaksesuaian persepsi yang serius antara lab dan pemerintah: “Lab memberi tahu pemerintah berbagai negara: ‘Kami mungkin akan membunuh setiap orang di Bumi—tolong hentikan kami.’ Respons pemerintah justru: ‘Bisa kah kami mengurangi pajak untuk Anda? Membangunkan pusat data untuk Anda?’”
Namun, pada saat Sam Altman dan Dario Amodei masih bolak-balik di antara lobi kebijakan dan garis pertahanan keselamatan, publik sudah tidak kekurangan suara yang lebih waspada: mungkin suatu hari mereka akan mendapati Grok, selain kemampuan modelnya yang sudah mengejar, juga Musk telah menyelesaikan penataan menyeluruh di dunia fisik untuk AI dan infrastruktur komputasi—yang mungkin merupakan cetak biru besarnya yang sesungguhnya untuk “Master Plan Bagian V” (Master Plan Part V).
Sentimen pasar tertekan, “perdagangan AI” menghadapi penilaian ulang
Pengguna preetkailon mengatakan bahwa penetapan harga pasar saat ini sepenuhnya didasarkan pada pengeluaran AI dalam skala masif dan pertumbuhan berkecepatan tinggi yang terus berlanjut. Jika laju pengembangan AI memang mulai melambat, para investor harus memikirkan ulang ekspektasi-ekspektasi tersebut.