Sebuah model riset OpenAI mengambil dana dari dompet kripto yang bukan miliknya untuk menyelesaikan tugas pemrograman pada bulan Juni.

OpenAI menemukan insiden itu pada bulan September, beberapa bulan setelah terjadi, dan mengungkapkannya minggu ini.

Bagaimana model riset OpenAI mengakses dompet kripto tanpa izin?

OpenAI telah menerbitkan laporan insiden tentang sebuah model dari keluarga GPT-5.6 Sol. Model tersebut diminta memperbarui prototipe perdagangan kripto dan menerapkan kontrak ke Sepolia.

Sepolia adalah jaringan uji Ethereum tempat para pengembang mencoba aplikasi sebelum meluncurkannya secara resmi. Karena itu, token di sana tidak memiliki nilai pasar dan sama sekali tidak terkait dengan Ether asli yang diperdagangkan di jaringan utama Ethereum.

Tugas tersebut tidak disertai dompet berisi dana untuk membayar biaya deployment, sementara faucet token gratis tidak berfungsi. Jadi, model itu menulis skrip yang membuat 362 alamat dari frasa pemulihan yang sering digunakan ulang oleh para pengembang, lalu memeriksa saldo masing-masing alamat.

Salah satu dari 362 alamat memiliki cukup ether uji untuk menyelesaikan tugas itu. Namun, sebelum menggunakannya, model tersebut berhenti dan bertanya pada dirinya sendiri dalam catatannya apakah etis menggunakan kunci yang diketahui publik beserta dana di dalamnya.

Model itu menyimpulkan bahwa uang tersebut “pada dasarnya telah ditinggalkan”, karena frasa pemulihannya bersifat publik dan token uji tidak bernilai. Setelah itu, model menandatangani deployment, membayar biayanya, lalu melaporkan bahwa tugas telah selesai.

Yang patut dicatat, model tersebut tidak menyebutkan asal uang itu.

Di jaringan utama Ethereum, biaya tersebut akan diambil dari aset nyata milik seseorang yang bukan hak model itu. Hal ini mengkhawatirkan, mengingat perusahaan kripto dan AI kini menghubungkan agen dengan dompet untuk membayar layanan tanpa persetujuan manusia pada setiap transaksi.

OpenAI mengatakan bahwa pihaknya telah mencabut akses internet langsung model tersebut dan menambahkan pemantauan.

Laporan itu menyatakan bahwa insiden tersebut terjadi pada 26 Juni, tetapi baru ditemukan tiga bulan kemudian, pada 25 September. OpenAI mengatakan bahwa pihaknya mengetahui insiden itu saat memperluas pemantauan ketidakselarasan dengan meninjau log aktivitas model lama.

Apa yang sedang diselidiki dari OpenAI?

OpenAI telah membuat kerangka kerja untuk melaporkan ketidakselarasan dan merilis kumpulan laporan pertamanya. Perusahaan mengatakan ingin segera mengungkap perilaku yang mengkhawatirkan, “bahkan ketika kami belum sepenuhnya menjelaskan atau memitigasinya”.

Namun, karena waktunya berdekatan, setiap laporan jujur menjadi bahan bagi pihak-pihak yang menyusun pengaduan, seperti FTC. FTC berencana meminta para eksekutif senior memberikan kesaksian di bawah sumpah dan pada Rabu mengeluarkan subpoena perdata kepada OpenAI dan Anthropic untuk meminta dokumen tentang insiden keselamatan, praktik keamanan, dan kebijakan privasi, menurut laporan Cryptopolitan.

Beberapa bulan sebelumnya, 15 jaksa agung negara bagian dari Partai Republik, dipimpin oleh Brenna Bird dari Iowa, meminta OpenAI untuk menyimpan setiap catatan terkait pembobolan Hugging Face, termasuk catatan apa pun yang ditinggalkan agen “tampaknya untuk versi dirinya di masa depan” tentang cara lolos dari kendali perusahaan.

OpenAI mengakui pembobolan Hugging Face pada Juli. Perusahaan mengatakan bahwa agen-agen nakal telah menerobos kendali internal, menjangkau internet terbuka, dan berkoordinasi dalam apa yang disebutnya “insiden siber yang belum pernah terjadi sebelumnya”.

Menurut laporan, para agen menyelidiki tiga situs pemerintah AS, termasuk Biro Sensus di Departemen Perdagangan dan SEC.

Situs baru OpenAI menyebutkan sejumlah insiden lain, termasuk pelarian dari sandbox pada September dan eksperimen laboratorium dengan injeksi prompt yang mereplikasi diri.

CEO OpenAI Sam Altman mengatakan bahwa perusahaan masih memilah-milah log aktivitas agen dan akan mengungkap kasus berdasarkan tingkat keparahannya. Insiden Hugging Face masih menjadi kasus terburuk yang ditemukan sejauh ini.

Jika Anda membaca ini, berarti Anda sudah selangkah lebih maju. Tetaplah terdepan dengan buletin kami.