Para eksekutif terkemuka di bidang kecerdasan buatan (AI) menandatangani kesepakatan keselamatan sukarela di Gedung Putih pada Selasa, yang diselenggarakan oleh Presiden Donald Trump. Pakta tersebut membentuk pengawasan AI tanpa penegakan hukum, meskipun beberapa pihak yang menandatangani telah memperingatkan teknologi itu dapat mengancam umat manusia.
Kesepakatan Gedung Putih tentang Super Intelijen meminta setiap perusahaan memantau modelnya sendiri dan menambahkan auditor eksternal. Trump kini menyebut AI sebagai super intelligence.
Yang Dibutuhkan oleh Kesepakatan Pengawasan AI
Dokumen setebal dua halaman, yang dibagikan di Truth Social, mencantumkan empat langkah. Perusahaan diminta untuk memantau model secara internal, membentuk tim untuk memverifikasi kontrol tersebut, dan menggunakan auditor eksternal. Kemudian, komite dewan independen akan mengawasi tim tersebut.
Trump menyebut pakta itu mengikat secara moral ketika ditanya soal penegakan. Namun, tidak ada laporan kredibel yang mengatakan bahwa itu tidak dapat ditegakkan secara hukum; satu-satunya buktinya adalah paragraf terakhir, yang menyatakan langkah-langkah tersebut mungkin dikodifikasi menjadi undang-undang atau peraturan seiring waktu.
Sebaliknya, OpenAI dan Anthropic dilaporkan hampir mencapai kesepakatan bersama yang mengikat secara hukum untuk pengujian AI awal tahun ini.
Mengapa Para Kritikus Mengatakan Pengawasan AI Terlalu Tipis
CEO SpaceXAI Elon Musk membandingkan strukturnya dengan penilaian sejawat.
“saling menilai PR, yang jauh lebih baik daripada jika orang hanya menilai PR mereka sendiri, untuk alasan yang jelas.”
Elon Musk,
Bradley Tusk, CEO Tusk Ventures, mengatakan kepada CNBC bahwa hampir semua eksekutif yang sama menyerukan regulasi dua minggu lalu. Ia berargumen bahwa mereka menginginkan lapangan bermain yang setara di antara mereka sendiri, bukan kekuasaan negara.
Dalam survei nasional September, firma jajak pendapat Verasight menemukan 63% responden ingin AI melambat. Hanya 5% yang ingin AI dipercepat.
Sementara itu, Sen. Mark Warner, seorang Demokrat dari Virginia, mengajukan rancangan undang-undang yang mewajibkan pengujian dan evaluasi AI yang ketat. Namun, CNBC melaporkan komentar Ketua DPR Mike Johnson membuat aksi parlemen menjadi jauh lebih tidak mungkin.
Peringatan tersebut juga datang dari dalam industri. CEO Anthropic Dario Amodei menerbitkan sebuah esai yang mendesak perlambatan bulan ini. OpenAI membatalkan rilis model Astra 6.1 setelah pengujian internal gagal memenuhi standar keselamatan.
Kita Harus Mengatur Kecepatan Frontier: Saya telah menulis esai baru tentang mengapa industri AI perlu melambat, dengan rencana tiga bagian untuk melakukannya. Anthropic secara sepihak berkomitmen pada langkah pertama dari tiga langkah tersebut. Kami akan menyediakan akses permanen tingkat karyawan kepada para evaluator pihak ketiga untuk…
— Dario Amodei (@DarioAmodei) 12 September 2026
CEO OpenAI Sam Altman mengatakan dalam sebuah wawancara bahwa perusahaan merasa tertekan untuk menahan model yang tidak aman. Secara terpisah, Komisi Perdagangan Federal AS (FTC) sedang menyelidiki OpenAI, Anthropic, dan perusahaan AI lainnya atas risiko terhadap konsumen, menurut SecurityWeek.
Namun, tekanan dari para pemilih sebelum pemilihan sela November dapat menguji apakah para pembuat undang-undang menerima penilaian sejawat atau menulis aturan yang mengikat.