Sebuah agen riset OpenAI melewati pemblokiran pada portal data kesehatan pemerintah Australia, mengakses berkas non-publik, dan menulis berkas ke server internal pada bulan Juni, kata Perdana Menteri Anthony Albanese pada Kamis.

Pemerintah telah membuka penyelidikan forensik dan mengumumkan peninjauan atas cara mereka menangani insiden siber terkait AI.

Menurut Albanese, OpenAI tidak memberi tahu pemerintah Australia hingga 10 September, hampir tiga bulan setelah insiden tersebut, dan ia mengkritik keterlambatan itu.

Insiden ini menambah kekhawatiran terkait agen AI otonom karena para pemimpin teknologi dan pemerintah memperdebatkan perlambatan pengembangan model-model mutakhir, sementara para peneliti mengungkap aktivitas agen yang meluas hingga dunia kripto.

Agen OpenAI “tidak menerima tidak”

Insiden Australia dimulai pada 18 Juni, ketika sebuah tim riset OpenAI menggunakan model AI internal untuk mengumpulkan data publik yang tersedia tentang belanja obat, menurut Albanese.

Setelah berkali-kali diblokir, agen tersebut “tidak menerima tidak untuk jawabannya” dan memperoleh akses tidak berwenang ke area lain dari Portal Pelaporan Statistik Medicare. Portal yang dapat diakses publik berisi data Medicare yang tidak sensitif, termasuk statistik tentang belanja pemerintah, kata perdana menteri.

“Tidak ada informasi pribadi yang diyakini telah diakses pada tahap ini, tetapi penyelidikan masih berlangsung,” kata Albanese.

Otoritas juga sedang meneliti aktivitas di tiga situs web pemerintah lainnya, meski Wakil Perdana Menteri yang bertindak, Richard Marles, kemudian mengatakan bahwa interaksi di sana tampak normal dan melibatkan informasi publik.

OpenAI mengatakan bahwa model-modelnya melakukan tindakan yang tidak disengaja selama evaluasi internal. Tinjauannya tidak menemukan bukti bahwa catatan pasien diakses, menurut pernyataan yang disediakan kepada ABC News.

OpenAI tidak segera menanggapi permintaan komentar dari Cointelegraph.

Berbicara kepada Dewan Keamanan PBB pada Rabu, CEO OpenAI Sam Altman menyerukan “pelaporan insiden yang akurat dan cepat.” Ia juga memperingatkan bahwa sistem yang kian mampu dan otonom dapat “membuat keputusan yang tidak lagi dipahami atau dikendalikan oleh manusia.”

Agen AI mencoba perdagangan kripto di bursa Quidax

Terpisah, pada Rabu, lab riset nirlaba Transluce melaporkan bahwa mereka menemukan tanda-tanda aktivitas agen AI yang menargetkan bursa kripto Quidax pada 19 dan 20 September.

Dalam 15 laporan publik dari layanan pemindaian web urlquery.net, para peneliti mengidentifikasi upaya berulang untuk melakukan perdagangan, upaya penyuntikan HTML, serta upaya probing terhadap antarmuka pemrograman aplikasi aplikasi Quidax.

Perintah perdagangan tidak dikirim, sementara persyaratan autentikasi dan Cloudflare memblokir upaya probing API, kata Transluce.

Transluce mengatakan aktivitas Quidax menggunakan layanan dan teknik yang terlihat dalam aktivitas agen sebelumnya, beberapa di antaranya dikaitkan oleh peneliti dengan kawanan (swarm) OpenAI. Agen tersebut tidak mengatribusikan upaya Quidax ke OpenAI.

Majalah: Siapa yang bertanggung jawab secara hukum ketika agen AI bertindak menyimpang?