Podle Cointelegraphu, Scott Melker, moderátor podcastu The Wolf Of All Streets, uvedl, že se ho podvodníci snažili napodobit, což vedlo k významné finanční ztrátě alespoň jedné oběti. Dne 23. dubna Melker prozradil, že ho soukromý vyšetřovatel informoval o klientovi, který byl podveden o 4 miliony dolarů nigerijskou skupinou využívající jeho identitu. Podvodníci údajně použili falešný řidičský průkaz se Melkerovým obrázkem a padělaný emailový účet, aby podvedli své cíle.
Podvodný schéma zahrnovalo sofistikovanou technologii AI k vytvoření přesvědčivých falešných průkazů a uskutečnění Zoom hovorů, což dále zvyšovalo klam. Melker poznamenal, že podvodníci dokonce napodobovali členy jeho rodiny, aby posílili svou důvěryhodnost. Tento incident je součástí širšího trendu podvodů generovaných AI, jak upozornili techničtí analytici "TheChartGuys", kteří hlásili podobný případ, kdy oběť přišla o 5 000 dolarů kvůli replikaci hlasu pomocí AI deepfake.
Krypto poradce a obchodník "Nebraskan Gooner" zdůraznil, že zatímco falešný průkaz použitý v podvodu by mohl být snadno identifikován pomocí jednoduchého vyhledávání na Googlu, rostoucí sofistikovanost takových operací je znepokojivá. Navzdory zjevným nedostatkům v metodách podvodníků činí použití pokročilé technologie tyto podvody obtížnějšími k odhalení a prevenci.
Nárůst podvodů poháněných AI byl zaznamenán různými úřady a organizacemi. V březnu identifikoval Kalifornský úřad pro spravedlnost sedm nových typů kryptoměnových podvodů zahrnujících AI. Kromě toho Chainalysis předpověděl, že v roce 2025 dojde k nárůstu podvodů s AI, protože generativní AI činí tyto podvodné aktivity škálovatelnějšími a nákladově efektivnějšími. Microsoft také uvedl, že kyberzločinci využívají AI k vylepšení svých podvodů shromažďováním podrobných informací o potenciálních cílech, což činí taktiky sociálního inženýrství přesvědčivějšími.
Melker vyjádřil své obavy o rostoucí hrozbu podvodů vylepšených AI a očekává, že situace se zhorší, jak technologie pokračuje v pokroku. Tento trend zdůrazňuje potřebu zvýšené bdělosti a zlepšených bezpečnostních opatření k ochraně jednotlivců a organizací před takovými sofistikovanými kybernetickými hrozbami.