Teknologi deepfake yang digunakan oleh penipu kripto untuk menerobos verifikasi know-your-customer (KYC) di bursa kripto seperti Binance akan semakin canggih, demikian peringatan kepala keamanan Binance.
Deepfake dibuat menggunakan alat kecerdasan buatan yang menggunakan pembelajaran mesin untuk membuat audio, gambar, atau video yang meyakinkan yang menampilkan kemiripan seseorang. Meskipun ada kasus penggunaan yang sah untuk teknologi ini, teknologi ini juga dapat digunakan untuk penipuan dan berita bohong.
AI palsu yang sangat canggih menimbulkan ancaman serius bagi umat manusia, dan ini bukan lagi sekadar ide yang tidak masuk akal. Saya baru-baru ini menemukan sebuah video yang menampilkan deep fake @cz_binance, dan ini sangat meyakinkan. pic.twitter.com/BRCN7KaDgq
— DigitalMicropreneur.eth (@rbkasr) 24 Februari 2023
Berbicara kepada Cointelegraph, kepala keamanan Binance Jimmy Su mengatakan telah terjadi peningkatan penipu yang menggunakan teknologi tersebut untuk mencoba melewati proses verifikasi pelanggan bursa.
"Peretas akan mencari gambar normal korban secara daring di suatu tempat. Berdasarkan itu, dengan menggunakan alat deep fake, mereka dapat membuat video untuk melakukan pembobolan."
Su mengatakan alat tersebut telah menjadi sangat canggih sehingga bahkan dapat menanggapi instruksi audio dengan benar yang dirancang untuk memeriksa apakah pelamar adalah manusia dan dapat melakukannya secara real-time.
"Beberapa verifikasi mengharuskan pengguna, misalnya, mengedipkan mata kiri atau melihat ke kiri atau ke kanan, melihat ke atas atau ke bawah. Deep fake saat ini sudah cukup canggih sehingga dapat benar-benar menjalankan perintah tersebut," jelasnya.
Namun, Su yakin video palsu tersebut belum sampai pada tingkat yang bisa mengelabui operator manusia.
"Saat kami menonton video tersebut, ada beberapa bagian yang dapat kami deteksi dengan mata manusia," misalnya, saat pengguna diminta untuk menoleh ke samping," kata Su.
“AI akan mengalahkan [mereka] seiring berjalannya waktu. Jadi, AI bukanlah sesuatu yang bisa selalu kita andalkan.”
Pada bulan Agustus 2022, kepala komunikasi Binance, Patrick Hillmann, memperingatkan bahwa “tim peretas yang canggih” menggunakan wawancara berita dan penampilan TV sebelumnya untuk membuat versi “deepfake” dirinya.
Versi deepfake Hillmann kemudian digunakan untuk melakukan rapat Zoom dengan berbagai tim proyek kripto yang menjanjikan peluang untuk mendaftarkan aset mereka di Binance — tentu saja dengan harga tertentu.
Para peretas membuat "deep fake" tentang saya dan berhasil mengelabui sejumlah proyek kripto yang tidak menaruh curiga. Proyek kripto hampir selalu diserang oleh penjahat dunia maya. Inilah sebabnya kami meminta sebagian besar karyawan @binance untuk tetap anonim di LinkedIn. https://t.co/tScNg4Qpkx
— Patrick Hillmann (@PRHillmann) 17 Agustus 2022
“Itu masalah yang sangat sulit dipecahkan,” kata Su, ketika ditanya tentang cara memerangi serangan semacam itu.
"Meskipun kami dapat mengontrol video kami sendiri, ada beberapa video di luar sana yang bukan milik kami. Jadi, sekali lagi, satu hal yang harus dilakukan adalah mendidik pengguna."
Binance berencana untuk merilis serangkaian posting blog yang ditujukan untuk mendidik pengguna tentang cara lebih baik mengidentifikasi dan memerangi ancaman siber.
Dalam versi awal postingan blog yang dilihat oleh Cointelegraph, Binance mengatakan bahwa mereka menggunakan algoritma AI dan pembelajaran mesin untuk tujuannya sendiri, termasuk mendeteksi pola login dan pola transaksi yang tidak biasa serta "aktivitas abnormal lainnya di platform."
AI Eye: Lompatan ‘terbesar yang pernah ada’ dalam AI, alat-alat baru yang keren, AI adalah DAO yang sebenarnya