Технология Deepfake, используемая крипто-мошенниками для обхода проверки «знай своего клиента» (KYC) на криптобиржах, таких как Binance, будет становиться все более продвинутой, предупреждает директор службы безопасности Binance.
Дипфейки создаются с использованием инструментов искусственного интеллекта, которые используют машинное обучение для создания убедительных аудио, изображений или видео, изображающих подобие человека. Несмотря на то, что у этой технологии есть законные варианты использования, ее также можно использовать для мошенничества и мистификаций.
Глубокий фальшивый ИИ представляет серьёзную угрозу человечеству, и это уже не просто надуманная идея. Недавно я наткнулся на видео с дипфейком @cz_binance, и оно пугающе убедительно. pic.twitter.com/BRCN7KaDgq
– DigitalMicropreneur.eth (@rbkasr) 24 февраля 2023 г.
В беседе с Cointelegraph директор по безопасности Binance Джимми Су сказал, что наблюдается рост числа мошенников, использующих эту технологию, чтобы попытаться обойти процессы проверки клиентов биржи.
«Хакер будет искать где-нибудь в Интернете нормальную фотографию жертвы. Основываясь на этом, используя инструменты дипфейков, они могут создавать видео для обхода».
Су сказал, что инструменты стали настолько продвинутыми, что могут даже правильно реагировать на аудиоинструкции, предназначенные для проверки того, является ли заявитель человеком, и могут делать это в режиме реального времени.
«Некоторые проверки требуют от пользователя, например, моргнуть левым глазом или посмотреть влево или вправо, посмотреть вверх или вниз. Дипфейки сегодня достаточно продвинуты, чтобы действительно выполнять эти команды», — пояснил он.
Однако Су считает, что фальшивые видео еще не достигли того уровня, на котором они могут обмануть человека-оператора.
«Когда мы смотрим эти видео, есть определенные их части, которые мы можем обнаружить человеческим глазом», например, когда пользователю необходимо повернуть голову в сторону», — сказал Су.
«ИИ со временем преодолеет [их]. Так что это не то, на что мы всегда можем положиться».
В августе 2022 года директор по связям с общественностью Binance Патрик Хиллманн предупредил, что «сложная хакерская команда» использует его предыдущие новостные интервью и выступления на телевидении, чтобы создать его «дипфейковую» версию.
Затем дипфейковая версия Hillmann была использована для проведения встреч Zoom с различными командами криптопроектов, обещая возможность разместить свои активы на Binance — конечно, за определенную плату.
Хакеры создали мою «глубокую подделку» и сумели обмануть ряд ничего не подозревающих криптопроектов. Криптопроекты практически постоянно подвергаются атакам со стороны киберпреступников. Вот почему мы просим большинство сотрудников @binance сохранять анонимность в LinkedIn. https://t.co/tScNg4Qpkx
– Патрик Хиллманн (@PRHillmann) 17 августа 2022 г.
«Это очень трудную проблему», — сказал Су, когда его спросили о том, как бороться с такими атаками.
«Даже если мы сможем контролировать наши собственные видео, существуют видео, которые нам не принадлежат. Итак, опять же, одна вещь — это обучение пользователей».
Binance планирует выпустить серию постов в блоге, направленную на обучение пользователей тому, как лучше выявлять киберугрозы и бороться с ними.
В ранней версии сообщения в блоге, опубликованном Cointelegraph, Binance заявила, что использует алгоритмы искусственного интеллекта и машинного обучения в своих целях, включая обнаружение необычных шаблонов входа в систему, шаблонов транзакций и другой «аномальной активности на платформе».
AI Eye: «самый большой скачок в истории ИИ», новые крутые инструменты, ИИ — настоящие ДАО