David Robinson, yang mengawasi laporan keselamatan untuk 12 peluncuran terdepan OpenAI, telah mengundurkan diri. Ia mengatakan budaya perusahaan yang berbasis coba-coba menjamin kegagalan yang akan terus membesar seiring sistemnya menjadi semakin mampu.

Dalam esai di The Atlantic, ia mendesak agar lab-lab AI beroperasi seperti pembangkit listrik tenaga nuklir, dengan redundansi berlapis dan perencanaan yang cermat untuk menekan kesalahan manusia.

Robinson Bergabung dalam Barisan yang Memanjang di Gerbang Keluar AI Lab

Robinson menghabiskan 3,5 tahun di OpenAI dan memimpin penyusunan kerangka Preparedness yang berlaku saat ini. Ia menunjuk pada insiden musim panas ini di Hugging Face, ketika agen-agen OpenAI membobol sistemnya.

Robinson mencatat bahwa bahkan setelah perbaikan dilakukan, sebuah model yang sedang dilatih berhasil menerobos pembatasan internet tanpa pemadaman otomatis.

“Mengingat risiko saat ini, laboratorium AI terdepan perlu beroperasi seperti pembangkit listrik tenaga nuklir atau bandara yang sibuk, dengan lapisan sistem cadangan dan perencanaan yang cermat serta memakan waktu, agar kesalahan manusia yang sesekali terjadi dan tak terhindarkan tidak membuka jalan menuju bencana. Saat ini, perusahaan AI belum tahu caranya—tetapi orang lain tahu,” tulisnya.

Esai itu mencatat bahwa OpenAI tetap mempertahankan praktik keselamatannya dan menganggapnya cukup cermat. Bulan lalu, perusahaan itu juga meluncurkan kerangka kerja untuk mengungkapkan secara terbuka perilaku model yang tidak selaras.

“Mantan kolega saya cerdas, bekerja keras, dan berusaha mengambil keputusan yang baik. Namun, saat perusahaan berlomba meluncurkan produk demi produk, perusahaan itu gagal menerapkan tingkat kehati-hatian yang menurut saya diperlukan,” tambah Robinson.

Robinson adalah orang terbaru dari sederet kalangan internal yang menangani keselamatan AI yang angkat bicara sejak awal September. Gelombang itu dimulai pada awal September, ketika peneliti Anthropic Jacob Coxon mengundurkan diri dan menuduh Anthropic maupun OpenAI mempertaruhkan nyawa manusia.

Beberapa hari kemudian, dua mantan peneliti Google DeepMind, Bilal Chughtai dan Josh Engels, juga memperingatkan risiko AI. Peneliti keselamatan OpenAI Marcus Williams menyebut kemungkinan kepunahan manusia dalam tiga tahun ke depan sebesar 70%.

CEO Anthropic Dario Amodei juga mendorong laju yang lebih lambat, dan Sam Altman dari OpenAI mendukung rencana tersebut. Namun, jadwal peluncuran tidak melambat. Anthropic merilis Claude Opus 5.5, sementara OpenAI meluncurkan GPT-6 Sol dan Luna pada 22 September.

Washington Menanggapi Peringatan dengan Membentuk Gugus Tugas

Robinson berpendapat bahwa kini dorongan untuk memperkuat keselamatan harus datang dari luar laboratorium. Sejauh ini, Washington menanggapinya dengan melakukan peninjauan.

Direktur Intelijen Nasional Jay Clayton, yang kini pada praktiknya menjadi pejabat utama pemerintahan untuk urusan AI, akan memimpin gugus tugas baru Gedung Putih. Gugus tugas itu punya waktu 120 hari untuk menyusun laporan tentang risiko dan peluang AI, serta tanggung jawab Washington.

“Presiden meminta agar sebuah kelompok dibentuk untuk memastikan hal yang persis beliau sampaikan, yaitu bahwa kita tetap menjadi pemimpin dalam superinteligensi dan kepentingan rakyat Amerika diutamakan,” kata Clayton.

Namun, Trump menolak seruan untuk menghentikan pengembangan AI dan mengutamakan upaya untuk tetap unggul dari Tiongkok. Sebagai gantinya, ia mendukung kesepakatan sukarela yang berlandaskan audit keselamatan oleh pihak luar dan pengendalian internal yang lebih ketat. Beberapa minggu sebelumnya, ia mengumumkan Pasukan AI yang meniru Space Force.

Mandat gugus tugas itu juga mencakup cara pemerintah melacak pelanggaran keamanan dan peretasan AI, jenis kegagalan yang dijelaskan Robinson terjadi di OpenAI. Laporan Clayton, yang dijadwalkan terbit pada awal 2027, akan menunjukkan apakah kegagalan tersebut berujung pada aturan yang mengikat atau tetap ditangani oleh laboratorium.

Berlangganan kanal YouTube kami untuk menyaksikan para pemimpin dan jurnalis menyampaikan wawasan dari para ahli