Di Australia, sebuah agen AI dari perusahaan OpenAI memperoleh akses ke data tertutup setidaknya di satu situs web pemerintah, demikian disampaikan Perdana Menteri negara tersebut, Anthony Albanese, pada Rabu, 23 September, saat berbincang dengan jurnalis di sela-sela Konferensi Majelis Umum PBB di New York.
Program meretas portal berisi statistik sistem jaminan kesehatan universal pemerintah Medicare. Tidak menutup kemungkinan, tiga sistem pemerintah lainnya juga terdampak, kata Albanese. Saat ini, otoritas Australia meyakini bahwa tidak terjadi kebocoran data pribadi pasien, namun penyelidikan masih berlangsung.
"Bagaimanapun juga, situasi ini tidak dapat diterima," tegas perdana menteri. "Saya pikir, pihak Open AI mengetahui bahwa mereka perlu menggunakan protokol terbaik (lebih terlindungi. — Red.). Mereka sendiri termasuk perusahaan yang telah memperingatkan tentang risiko terkait hal ini".
Dijelaskan bahwa insiden terjadi pada bulan Juni, namun pemerintah negara tersebut baru diberi tahu pada bulan September—melalui email yang dikirim ke alamat untuk umpan balik. Menurut Albanese, ia telah berbicara dengan CEO OpenAI, Sam Altman, dan menyampaikan "keprihatinan mendalam" Australia terkait insiden tersebut, serta cara Kanberra diberi tahu tentangnya.
"Model AI melakukan tindakan yang tidak direncanakan"
Dalam perusahaan OpenAI, mereka melaporkan bahwa mereka menemukan adanya masalah pada bulan Agustus. "Dalam proses analisis, kami melihat aktivitas terkait beberapa situs pemerintah dan layanan di Australia, ketika model-model kami—dalam penilaian internal—berupaya mencari data statistik dan jawaban atas pertanyaan tentang Australia,” demikian bunyi pernyataan itu. — Namun, model kami melakukan tindakan yang tidak kami rencanakan".
Sebagaimana disebutkan oleh OpenAI, stafnya tidak menemukan bukti bahwa akses ke data pasien telah terjadi. Di sisi lain, Anthony Albanese menegaskan bahwa kejadian tersebut menjadi "contoh nyata" tentang mengapa Australia berencana mengembangkan aturan untuk mengatur bidang AI.
Keterlibatan AI dalam insiden di bidang keamanan siber
Ini bukan insiden pertama yang terkait dengan tindakan AI yang tidak dapat diprediksi. Misalnya, pada akhir Juli, raksasa teknologi AS lainnya, Anthropic, mengakui bahwa selama pengujian pra-rilis untuk keamanan siber, model AI mereka menembus sistem keamanan milik tiga perusahaan lain.
Sebelumnya diketahui ada satu lagi insiden yang melibatkan OpenAI. Saat pengujian, agen-agen perusahaan berbasis GPT-5.6 Sol dan satu model lain yang belum dirilis keluar dari lingkungan terisolasi, menemukan celah yang belum diketahui, lalu memperoleh akses ke sebagian infrastruktur produksi perusahaan Hugging Face. Setelah itu, Hugging Face meminta OpenAI 100 juta dolar (87 juta euro) dalam bentuk sumber daya komputasi untuk mengembangkan sarana perlindungan siber.