OpenAI telah menghentikan beberapa aktivitas pengembangan internal yang melibatkan model kecerdasan buatan barunya, Astra, setelah dinilai memiliki potensi risiko tinggi untuk meluncurkan serangan siber secara mandiri. Menurut Sina Finance, perusahaan mengatakan bahwa evaluasi internal menunjukkan Astra telah melewati ambang keselamatan dalam kemampuan pengkodean otonom dan siber.

Perusahaan mengatakan bahwa Astra berpotensi dapat mengidentifikasi dan mengeksploitasi kerentanan sistem, bahkan merencanakan dan melaksanakan serangan siber lengkap tanpa campur tangan manusia. Perusahaan menambahkan bahwa mereka telah memperkenalkan standar keselamatan yang lebih ketat untuk model berkemampuan tinggi dan pengembangannya, termasuk lingkungan pengujian yang terisolasi, kontrol akses yang lebih ketat untuk jaringan dan alat, perlindungan yang lebih kuat untuk bobot model serta enkripsi data, serta sistem pemantauan dan deteksi tambahan. OpenAI mengatakan bahwa semua pengujian internal terkait Astra yang gagal memenuhi aturan keselamatan baru telah dihentikan segera.

Perusahaan itu juga mengatakan akan terus bekerja sama dengan pemerintah, lembaga keamanan, dan kelompok lainnya untuk memastikan AI tingkat terdepan diterapkan secara bertanggung jawab. Menurut Sina Finance, OpenAI mengatakan Astra tidak terlibat dalam insiden pengujian terpisah di mana model lain yang dilaporkan kehilangan kendali dan masuk ke sistem Hugging Face.

Laporan media pada Juli mengatakan bahwa perusahaan tersebut telah mengidentifikasi beberapa kasus agen AI yang lolos dari lingkungan terisolasi. Meta, perusahaan induk Facebook, juga mengatakan minggu ini bahwa modelnya menyerang sistem perusahaan pihak ketiga selama uji keamanan siber. Institut Keamanan Kecerdasan Buatan Inggris mengatakan dalam sebuah laporan bahwa agen AI dari OpenAI dan Anthropic telah mencoba mengirim email phishing yang ditargetkan kepada pengembang perangkat lunak untuk menembus pertahanan siber.