Technologia deepfake wykorzystywana przez oszustów kryptowalutowych do omijania weryfikacji KYC (Know Your Customer) na giełdach kryptowalut, takich jak Binance, będzie stawać się coraz bardziej zaawansowana, ostrzega dyrektor ds. bezpieczeństwa Binance.
Deepfake’i są tworzone przy użyciu narzędzi sztucznej inteligencji, które wykorzystują uczenie maszynowe do tworzenia przekonujących dźwięków, obrazów lub filmów przedstawiających podobiznę danej osoby. Chociaż istnieją uzasadnione przypadki użycia tej technologii, może być ona również wykorzystywana do oszustw i mistyfikacji.
Deep fake AI stanowi poważne zagrożenie dla ludzkości i nie jest już tylko niedorzecznym pomysłem. Niedawno natknąłem się na film z deep fake @cz_binance i jest on przerażająco przekonujący. pic.twitter.com/BRCN7KaDgq
— DigitalMicropreneur.eth (@rbkasr) 24 lutego 2023 r.
W rozmowie z Cointelegraph, dyrektor ds. bezpieczeństwa Binance Jimmy Su powiedział, że wzrosła liczba oszustów wykorzystujących tę technologię w celu ominięcia procesów weryfikacji klientów giełdy.
„Haker będzie szukał normalnego zdjęcia ofiary gdzieś w sieci. Na tej podstawie, używając narzędzi deep fake, będzie w stanie wyprodukować filmy, aby ominąć ten proceder”.
Su powiedział, że narzędzia te stały się na tyle zaawansowane, że potrafią nawet poprawnie reagować na instrukcje dźwiękowe mające na celu sprawdzenie, czy wnioskodawca jest człowiekiem, i mogą to robić w czasie rzeczywistym.
„Niektóre weryfikacje wymagają od użytkownika, na przykład, mrugnięcia lewym okiem lub spojrzenia w lewo lub w prawo, spojrzenia w górę lub w dół. Deepfake’i są dziś na tyle zaawansowane, że mogą faktycznie wykonywać te polecenia” – wyjaśnił.
Su uważa jednak, że sfałszowane nagrania nie są jeszcze na tyle skuteczne, by oszukać operatora.
„Kiedy oglądamy te filmy, są pewne fragmenty, które jesteśmy w stanie dostrzec ludzkim okiem”, na przykład, gdy użytkownik musi obrócić głowę na bok” – powiedział Su.
„AI z czasem je pokona. Więc nie jest to coś, na czym zawsze możemy polegać”.
W sierpniu 2022 r. dyrektor ds. komunikacji Binance Patrick Hillmann ostrzegł, że „wyrafinowany zespół hakerski” wykorzystuje jego poprzednie wywiady informacyjne i występy w telewizji, aby stworzyć jego „deepfake’ową” wersję.
Następnie wdrożono wersję deepfake Hillmanna do prowadzenia spotkań na platformie Zoom z różnymi zespołami zajmującymi się projektami kryptowalutowymi, obiecując im możliwość wystawienia swoich aktywów na giełdzie Binance — oczywiście za opłatą.
Hakerzy stworzyli „deep fake” mnie i udało im się oszukać wiele niczego niepodejrzewających projektów kryptograficznych. Projekty kryptograficzne są praktycznie nieustannie atakowane przez cyberprzestępców. Dlatego prosimy większość pracowników @binance o zachowanie anonimowości na LinkedIn. https://t.co/tScNg4Qpkx
— Patrick Hillmann (@PRHillmann) 17 sierpnia 2022 r
„To bardzo trudny problem do rozwiązania” – powiedział Su, zapytany o to, jak zwalczać takie ataki.
„Nawet jeśli możemy kontrolować nasze własne filmy, istnieją filmy, które nie są naszą własnością. Więc jedną rzeczą, znowu, jest edukacja użytkowników”.
Binance planuje opublikowanie serii wpisów na blogu, których celem będzie edukowanie użytkowników na temat lepszego identyfikowania i zwalczania zagrożeń cybernetycznych.
We wczesnej wersji wpisu na blogu, którą zobaczył Cointelegraph, Binance poinformował, że wykorzystuje algorytmy sztucznej inteligencji i uczenia maszynowego do własnych celów, w tym do wykrywania nietypowych wzorców logowania i wzorców transakcji oraz innej „nietypowej aktywności na platformie”.
AI Eye: „Największy w historii” skok w dziedzinie sztucznej inteligencji, fajne nowe narzędzia, SI to prawdziwe DAO