Seorang karyawan sebuah perusahaan dari Hong Kong memberikan $25 juta kepada penipu pada bulan Januari 2024, karena menyerah pada persuasif dari video deepfake. Hal ini merupakan contoh meningkatnya ancaman penipuan yang didukung AI yang sulit dideteksi. Penjahat menggunakan teknologi AI generatif untuk menciptakan deepfake yang meyakinkan, ucapan palsu, dan dokumen palsu, sehingga membahayakan industri perbankan dan nasabahnya.

Deloitte memperkirakan bahwa kerugian akibat pencurian di Amerika Serikat dapat mencapai $40 miliar pada tahun 2027, yang berarti 32% lebih besar dibandingkan kerugian akibat kejahatan sebesar $12,3 miliar pada tahun 2023. 📉🚨

AI generatif berpotensi menciptakan media sintetik yang meyakinkan, termasuk video deepfake, suara fiktif, dan dokumen palsu. Ketersediaan alat AI generatif di web gelap telah menyebabkan demokratisasi, sehingga melemahkan efektivitas banyak alat anti-penipuan.

Teknologi deepfake juga mengancam prosedur verifikasi identitas, yang secara historis dianggap sebagai benteng keamanan. Menurut penelitian terbaru, industri keuangan akan mengalami peningkatan kejadian deepfake yang mengejutkan sebesar 700% pada tahun 2023.

Untuk memperkuat perlindungan terhadap penipuan kartu kredit, Mastercard menggunakan mesin Decision Intelligence, dan JPMorgan telah mengintegrasikan model bahasa yang sangat besar untuk mendeteksi tanda-tanda intrusi email.

Untuk memerangi penipuan yang didukung AI, bank harus memprioritaskan investasi pada sumber daya manusia dengan melatih karyawan untuk mengenali, menghentikan, dan melaporkan penipuan.