Kejahatan dunia maya yang disebabkan oleh AI berkembang pesat, dipercepat dengan peluncuran beberapa alat baru di web gelap setelah penemuan WormGPT bulan lalu, menurut laporan baru yang dirilis pada hari Selasa oleh perusahaan keamanan siber SlashNext.
WormGPT dan FraudGPT, yang dirilis seminggu kemudian, hanyalah puncak gunung es dalam pengembangan alat kecerdasan buatan yang ingin digunakan penjahat dunia maya untuk melawan korbannya, SlashNext menyimpulkan. FraudGPT sendiri dibangun dengan kemampuan untuk membuat halaman web penipuan phishing, menulis kode berbahaya, membuat alat peretasan, dan menulis surat penipuan.
Peneliti SlashNext mengatakan mereka melibatkan individu dengan nama samaran bernama CanadianKingpin12 melalui Telegram.
“Selama penyelidikan kami, kami mengambil peran sebagai pembeli potensial untuk menggali lebih dalam CanadianKingpin12 dan produk mereka, FraudGPT,” kata SlashNext. “Tujuan utama kami adalah menilai apakah FraudGPT mengungguli WormGPT dalam hal kemampuan dan efektivitas teknologi.”
Tim mendapatkan lebih dari yang diharapkan karena penjual—sambil memamerkan FraudGPT—mengatakan chatbot AI baru bernama DarkBart dan DarkBert akan hadir. Chatbot tersebut, klaim CanadianKingpin12, akan memiliki akses internet dan dapat berintegrasi dengan teknologi pengenalan gambar Google, Google Lens, yang memungkinkan chatbot mengirim teks dan gambar.
SlashNext mencatat bahwa DarkBert pada awalnya dirancang oleh perusahaan intelijen data S2W sebagai alat yang sah untuk memerangi kejahatan dunia maya, namun para penjahat jelas-jelas menggunakan teknologi tersebut untuk melakukan kejahatan dunia maya.
CanadianKingpin12 mengatakan kepada para peneliti bahwa DarkBert bahkan dapat membantu dalam serangan rekayasa sosial tingkat lanjut, mengeksploitasi kerentanan dalam sistem komputer, dan mendistribusikan malware lain, termasuk ransomware.
“ChatGPT memiliki pagar pembatas untuk melindungi dari kasus penggunaan yang melanggar hukum atau jahat,” David Schwed, chief operating officer di perusahaan keamanan blockchain Halborn, sebelumnya mengatakan kepada Decrypt di Telegram. "[WormGPT dan FraudGPT] tidak memiliki batasan tersebut, sehingga Anda dapat memintanya untuk mengembangkan malware untuk Anda."
SlashNext mengatakan penjual terpaksa mengalihkan komunikasi ke aplikasi messenger terenkripsi setelah dilarang dari forum karena pelanggaran kebijakan—khususnya, mencoba menjual akses ke FraudGPT melalui forum online di “clear net” publik.
Clear net, atau web permukaan, mengacu pada internet umum yang dapat diakses oleh mesin pencari. Berdasarkan kontrak, darknet atau darkweb tidak diindeks oleh mesin pencari, dan situs web darknet biasanya tidak dapat ditemukan melalui pencarian Google. Meskipun darkweb telah dikaitkan dengan penjahat dunia maya dan pasar online ilegal seperti Jalur Sutra, banyak pengguna—seperti jurnalis atau pembangkang politik—mengandalkan darkweb untuk mengaburkan identitas mereka dan melindungi privasi mereka.
Untuk bertahan melawan pesatnya perkembangan alat kejahatan siber yang dihasilkan oleh AI, SlashNext menyarankan perusahaan untuk proaktif dalam pelatihan keamanan siber dan menerapkan langkah-langkah verifikasi email yang ditingkatkan.
Ketika penjahat dunia maya beralih ke AI untuk menciptakan alat jahat yang lebih canggih, laporan terpisah dari perusahaan keamanan web Immunefi mengatakan para pakar keamanan siber kurang beruntung dalam menggunakan AI untuk melawan kejahatan dunia maya. Laporannya menyebutkan bahwa 64% pakar yang disurvei mengatakan chatbot OpenAI memberikan “akurasi terbatas”, dan 61% mengatakan mereka tidak memiliki pengetahuan khusus untuk mengidentifikasi eksploitasi.
“Meskipun sulit untuk mengukur secara akurat dampak sebenarnya dari kemampuan ini, masuk akal untuk memperkirakan bahwa kemampuan ini akan mengurangi hambatan bagi calon penjahat dunia maya,” kata SlashNext. “Selain itu, perkembangan pesat dari WormGPT ke FraudGPT dan sekarang DarkBERT dalam waktu kurang dari sebulan, menggarisbawahi pengaruh signifikan AI yang berbahaya terhadap keamanan siber dan lanskap kejahatan siber.”