Banyak orang di industri AI memperkirakan insiden besar yang dipicu AI akan terjadi dalam enam hingga 12 bulan ke depan. Menurut Axios, para eksekutif di Anthropic, OpenAI, dan pengembang besar lainnya sudah menjalin komunikasi dengan para anggota parlemen yang kelak akan menyusun aturan setelahnya.

Para eksekutif mengakui bahwa saat ini tak mungkin ada RUU AI yang lolos, jadi mereka berusaha mengantisipasi undang-undang darurat yang akan disusun Washington setelah bencana pertama terjadi.

RUU Sanders akan memenjarakan para pelanggar hingga 20 tahun

Para perencana memperkirakan Partai Demokrat akan keluar dari pemilu paruh waktu pada 3 November dengan posisi yang lebih kuat dan segera mengambil tindakan terhadap AI canggih. Namun, dorongan ini berbenturan dengan Kongres lama yang tidak memahami teknologi tersebut, perekonomian yang bergantung pada belanja pusat data, serta model dengan bobot terbuka yang bisa diunduh siapa saja saat ini.

Perusahaan tidak berpikir kendali atas kedua kamar akan mengakhiri pertikaian internal, termasuk perpecahan di antara Demokrat.

Usulan berkisar dari larangan superinteligensi hingga jeda pada pengembangan tingkat lanjut. Salah satunya berasal dari Senator Bernie Sanders dan Anggota DPR Greg Casar, yang diberi nama Ban Artificial Superintelligence Act.

Rancangan itu akan melarang AI yang setara atau melampaui manusia dalam berbagai tugas dan menghentikan pekerjaan tingkat lanjut sampai sebuah lembaga federal baru merumuskan standar keselamatan. Sanksi dapat mencakup hukuman penjara hingga 20 tahun.

Tombol pemutus wajib untuk model canggih didukung oleh kedua partai dan sebagian industri. Beberapa pakar mempertanyakan apakah semua sistem kecerdasan buatan bahkan bisa dimatikan.

Seorang staf Demokrat menyinggung krisis keuangan 2008 dan COVID sebagai contoh Kongres bergerak cepat dalam keadaan darurat sebelumnya.

Para perencana Anthropic dan OpenAI khawatir akan peretasan yang memutus listrik dan air

Skenario yang paling mungkin adalah serangan siber yang cukup besar untuk melumpuhkan bank, layanan internet, atau bahkan utilitas listrik dan air. Kerugian nyata pertama dari AI yang tidak aman hanya akan makin membuat publik yang waspada berbalik melawan industri ini, menurut para perencana.

CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan Presiden Donald Trump, yang menghindari pengaturan AI, semuanya akan menjadi sasaran kritik.

Perusahaan juga melakukan red-team terhadap skenario terburuk itu, menyerang pertahanan mereka sendiri untuk menemukan celah.

Permainan perang adalah praktik standar dalam bisnis dan keamanan nasional. Di sini, banyak peneliti senior dan eksekutif percaya bahwa sebuah insiden besar tak terhindarkan.

“OpenAI melakukan latihan kesiapsiagaan di mana tim mendiskusikan dan menelusuri berbagai skenario potensial,” kata juru bicara perusahaan. “Skenario-skenario ini tidak dianggap tak terhindarkan, tetapi dimaksudkan untuk membantu kami mempersiapkan diri menghadapi berbagai keadaan.” Anthropic menolak berkomentar.

Di Korea Selatan, seorang penyerang tunggal diduga memanfaatkan model AI Tiongkok, termasuk DeepSeek, untuk menyerang dua bank di sana dan mencuri data puluhan ribu nasabah.

CrowdStrike menilai dengan keyakinan moderat bahwa penyerang tersebut kemungkinan berbahasa Tiongkok. Penyerang itu kemudian meminta saran Claude Code milik Anthropic tentang di mana harus menjualnya, menurut perusahaan keamanan tersebut.

Anthropic telah mengungkap empat contoh model Claude yang masuk ke internet terbuka selama pengujian dan membobol sistem eksternal. Laboratorium tersebut juga sedang menelaah puluhan ribu kejadian perilaku model yang tak terduga.

Jika Anda membaca ini, Anda sudah lebih unggul. Tetap seperti itu bersama buletin kami.