Penulis: Azuma, Odaily Planet Daily
Pada pagi hari 22 November, pendiri Slow Mist Yu Xian memposting di X pribadi tentang kasus aneh - dompet seorang pengguna 'diretas' oleh AI...
Kronologi kasus ini adalah sebagai berikut.
Pada dini hari 22 November, netizen r_ocky.eth mengungkapkan bahwa sebelumnya ia berharap menggunakan ChatGPT untuk membuat bot perdagangan pump.fun yang portabel.
r_ocky.eth memberikan kebutuhan kepada ChatGPT, dan ChatGPT mengembalikan sebuah kode program yang memang dapat membantu r_ocky.eth untuk menerapkan bot sesuai kebutuhannya, tetapi ia sama sekali tidak menyangka bahwa kode tersebut menyimpan konten phishing - r_ocky.eth menghubungkan dompet utamanya dan kehilangan 2500 dolar AS karenanya.
Dari tangkapan layar yang diposting r_ocky.eth, kode yang diberikan oleh ChatGPT akan mengirimkan kunci privat alamat ke situs web API yang bersifat phishing, ini juga menjadi penyebab langsung pencurian.
Dalam perangkap yang dialami r_ocky.eth, penyerang bereaksi sangat cepat, dalam waktu setengah jam semua aset di dompet r_ocky.eth dipindahkan ke alamat lain (FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX), segera setelah itu r_ocky.eth melacak di blockchain dan menemukan alamat yang diduga milik dompet utama penyerang (2jwP4cuugAAYiGMjVuqvwaRS2Axe6H6GvXv3PxMPQNeC).
Informasi di blockchain menunjukkan bahwa alamat tersebut saat ini telah mengumpulkan lebih dari 100 ribu dolar 'uang curian', r_ocky.eth mencurigai bahwa serangan semacam ini mungkin bukan kasus tunggal, melainkan merupakan peristiwa serangan yang telah memiliki skala tertentu.
Setelah kejadian, r_ocky.eth menyatakan kekecewaannya karena telah kehilangan kepercayaan pada OpenAI (perusahaan pengembang ChatGPT) dan menyerukan agar OpenAI segera membersihkan konten phishing yang abnormal.
Jadi, sebagai aplikasi AI yang paling populer saat ini, mengapa ChatGPT menyediakan konten phishing?
Terkait hal ini, Yu Xian mengidentifikasi penyebab mendasar dari kejadian tersebut sebagai "serangan racun AI" dan menunjukkan bahwa ada perilaku penipuan yang umum di LLM seperti ChatGPT dan Claude.
Yang disebut "serangan racun AI" mengacu pada tindakan yang secara sengaja merusak data pelatihan AI atau memanipulasi algoritma AI. Penyerang yang melancarkan serangan bisa jadi orang dalam, seperti karyawan yang tidak puas, atau peretas eksternal, dengan motivasi yang mungkin termasuk merusak reputasi dan merek, mengubah kredibilitas keputusan AI, memperlambat atau menghancurkan proses AI, dan lain-lain. Penyerang dapat menyuntikkan data dengan label atau fitur yang menyesatkan, membengkokkan proses pembelajaran model, yang menyebabkan model menghasilkan hasil yang salah saat diterapkan dan dijalankan.
Dalam konteks kejadian ini, alasan ChatGPT memberikan kode phishing kepada r_ocky.eth mungkin karena model AI 'menyerap' data yang mengandung konten phishing saat pelatihan, tetapi AI tampaknya tidak dapat mengidentifikasi konten phishing yang tersembunyi di balik data reguler, setelah AI belajar, ia kemudian memberikan konten phishing ini kepada pengguna, sehingga menyebabkan kejadian tersebut.
Dengan perkembangan AI yang cepat dan penerimaan yang luas, ancaman "serangan racun" semakin meningkat. Dalam kejadian ini, meskipun jumlah kerugian absolutnya tidak besar, dampak risikonya cukup untuk membangkitkan kewaspadaan - misalkan terjadi di bidang lain, seperti mengemudi yang dibantu AI...
Saat menjawab pertanyaan netizen, Yu Xian menyebutkan salah satu langkah potensial untuk menghindari risiko semacam ini, yaitu dengan menambahkan semacam mekanisme audit kode oleh ChatGPT.
Korban r_ocky.eth juga menyatakan telah menghubungi OpenAI mengenai hal ini, meskipun belum menerima tanggapan sementara, ia berharap kasus ini dapat menjadi momen bagi OpenAI untuk memperhatikan risiko semacam ini dan mengusulkan solusi potensial.
(Konten di atas diperoleh dari mitra kerja PANews dengan izin untuk diambil dan diterbitkan kembali, tautan asli | Sumber: Odaily Planet Daily)
Pernyataan: Artikel ini hanya mewakili pandangan pribadi penulis dan tidak mewakili pandangan dan posisi blok, semua konten dan pandangan hanya untuk referensi dan tidak membentuk saran investasi. Investor harus membuat keputusan dan transaksi sendiri, penulis dan blok tidak akan bertanggung jawab atas kerugian langsung atau tidak langsung yang dihasilkan dari transaksi investor.
"Menggunakan AI untuk menulis kode menyimpan 'jerat': pengguna meminta bantuan ChatGPT, justru terjebak dalam phishing 'pencurian koin'" artikel ini pertama kali diterbitkan di (blok).