Anthropic, OpenAI, dan perusahaan AI lainnya secara tertutup menyusun skenario terburuk ketika kecerdasan buatan menyebabkan kerugian serius di dunia nyata, menurut Axios. Menurut PANews, latihan tersebut berfokus pada kasus ekstrem seperti serangan siber berskala besar dan gangguan terhadap layanan keuangan, konektivitas internet, serta sistem listrik dan air.

Para pelaku industri mengatakan bahwa insiden besar yang disebabkan oleh AI yang tidak aman dapat memicu reaksi keras publik yang lebih kuat terhadap teknologi tersebut dan meningkatkan tekanan terhadap perusahaan AI serta para eksekutifnya. Sejumlah tokoh industri AI percaya bahwa peristiwa besar dapat terjadi dalam 6 hingga 12 bulan ke depan, sehingga mendorong para eksekutif untuk mulai berbicara dengan anggota parlemen AS terlebih dahulu.

Laporan tersebut menyebutkan bahwa perusahaan AI menggunakan pengujian red team untuk menyimulasikan skenario terburuk dan mempercepat upaya untuk memberikan pengarahan tentang AI kepada para anggota Kongres. Para eksekutif meyakini bahwa kondisi saat ini tidak mendukung pengesahan undang-undang regulasi besar, tetapi insiden serius dapat mengubah perdebatan kebijakan dan membentuk undang-undang serta peraturan AS di masa depan.

Artikel tersebut menyebutkan bahwa beberapa anggota Partai Demokrat telah mengusulkan pelarangan superinteligensi atau penghentian sementara pengembangan AI canggih, sementara usulan lain, termasuk tombol pemutus darurat untuk sistem AI canggih, mendapat dukungan bipartisan serta dukungan dari sejumlah tokoh industri. Para pakar juga mempertanyakan apakah mematikan semua sistem AI akan praktis dilakukan.

Laporan tersebut menambahkan bahwa model berbobot terbuka yang tersedia luas untuk diunduh secara gratis membuat pengelolaan risiko semakin kompleks, dan banyak profesional keamanan siber memandang penggunaan AI untuk melawan AI yang berniat jahat sebagai salah satu kemungkinan respons. Sekalipun insiden AI besar memicu reaksi keras, para pembuat kebijakan AS tetap dapat menghadapi kendala terkait perekonomian, perpecahan politik, dan besarnya investasi infrastruktur AI.