С момента своего анонса в начале 2023 года Microsoft VALL-E рекламировался как инструмент для улучшения людей с ограниченными возможностями путем перевода текста в речь или замены актеров озвучивания, чтобы сделать фильм или игру более доступными. Однако теперь выяснилось, что VALL-E может быть самым опасным мошенническим программным обеспечением, когда-либо выпущенным.
Согласно комментариям, ВАЛЛ-И можно использовать для выманивания денег путем имитации голоса друга или голоса знаменитости. Это немного похоже на маски для FaceApp, только для голоса. Microsoft пока не прокомментировала сообщения о том, что VALL-E является мошенничеством.
Оглавление
Что такое Валл-И?
Как работает Валл-И?
Что делает Валл-И таким опасным?
Как защититься от Валл-И?
Что такое Валл-И?
Валл-И — это синтетический голос, который можно использовать для имитации реальных людей. Он сделан с использованием записи голоса реального человека и кода Microsoft. Этот код еще не опубликован, но не исключена вероятность его утечки.
Исследователи работали над поиском способов улучшить способ воспроизведения речи системами преобразования текста в речь (TTS) с момента появления первой модели TTS. Самая последняя модель Microsoft, VALL-E, представляет собой значительный прогресс в этой области.
Трансформаторная модель TTS VALL-E с помощью всего трехсекундного сэмпла любого голоса может воспроизводить речь каждым голосом. По сравнению с более ранними моделями, которым требовался значительно более длительный период обучения для развития нового голоса, это представляет собой значительный прогресс. ChatGPT запрещен в школах Нью-Йорка; остальная часть США последует этому примеру. Как работает Валл-И?
Самое приятное то, что для обучения или, точнее, для микрообучения требуется всего три секунды речи. Это означает, что если у вас есть трехсекундный аудиоклип, в котором кто-то говорит, вы можете вставить ему в рот любой текст.
А теперь, голосом Цукерберга, ИИ позорно унижает прогноз погоды в метавселенной.
Прослушайте сэмплы в разделе «Синтез разнообразия», прокрутив вниз. Этот ИИ может добавлять цвет голосу и поддаваться эмоциям в дополнение, скажем, к сохранению эмоциональных тонов сэмпла.
Пример №1
Пример №2
Пример №3
Никто раньше этого не делал, поэтому они сделали это так ловко, но на этапе обучения разработчики использовали до 60 000 часов выступлений (которые, похоже, были вырезаны из приложения Teams).
Вложи слезы в свой голос, чтобы все плакали
голосовой директор теперь, как известно, инструктирует ИИ
План Microsoft и OpenAI побороться с Google с помощью Bing на базе ChatGPT
Что делает Валл-И таким опасным?
Vall-E опасен, потому что гнусные агенты могут использовать его, чтобы обманом заставить уязвимых людей перевести средства на карту. Мошенники могут использовать его, чтобы выдать себя за кого-то, знакомого жертве, например, за члена семьи или друга. Это может привести к тому, что люди потеряют много денег.
Microsoft еще не опубликовала код Vall-E, поэтому широкой публике он недоступен. Однако в случае утечки им может воспользоваться кто угодно и по любой причине. Это сделало бы практически невозможным определить, настоящий ли голос человека или нет.
Если вы слышите знакомый голос на своем телефоне, не думайте, что это человеческий голос. Особенно если вас просят перевести средства на карту. Раньше мошенникам было трудно это осуществить. Теперь 3 секунды записи нужного голоса и код Microsoft — который пока не является общедоступным, но вы все осознаете потенциальную опасность утечки данных — могут воплотить его в жизнь.
Если вас когда-либо попросят перевести средства на карту, обязательно проверьте личность человека, прежде чем отправлять деньги.
Водяные знаки ChatGPT могут помочь Google обнаружить текст, сгенерированный ИИ
Как защититься от Валл-И?
В наши дни важно быть бдительным в отношении того, с кем вы разговариваете по телефону. С появлением технологии клонирования голоса мошенники теперь могут создавать фальшивые записи голосов реальных людей. Из-за этого может быть очень сложно определить, разговариваете ли вы с реальным человеком или нет.
Если у вас когда-нибудь возникнут сомнения, есть несколько вещей, которые вы можете сделать, чтобы защитить себя. Во-первых, попытайтесь подтвердить личность человека, задав ему вопросы, на которые только реальный человек знает ответ. Если вы все еще не уверены, вы можете сказать им, что перезвоните им и позвоните по номеру, который, как вы знаете, принадлежит им. Если у вас есть какие-либо сомнения, вы можете спросить у человека его имя и должность. Если они не хотят предоставлять вам эту информацию или кажутся сомнительными по другим причинам, вы всегда можете повесить трубку и позвонить в компанию, в которой, как они утверждают, работают, чтобы подтвердить свою личность.
Вы также должны знать о красных флажках, которые могут указывать на то, что вы разговариваете с мошенником. Будьте подозрительны, если человек просит вас перевести средства на предоплаченную карту или использует обычное приветствие, например «Привет, друг». Немедленно повесьте трубку, если чувствуете, что вас обманывают.
Если вы пострадали от мошенничества с VALL-E, вам следует сообщить об этом в местное отделение полиции. Было бы хорошо связаться с Microsoft и узнать, сможете ли вы получить возмещение, чтобы предотвратить судебные иски на миллиарды долларов.
Подробнее об ИИ:
Будущее пения: как искусственный интеллект позволяет каждому стать профессиональным певцом
ChatGPT: эволюция вредоносного ПО как услуги
Клод: Прибыл первый конкурент ChatGPT
CB Insights: Метавселенная — неудачник года; ИИ – победитель
Мужчину по ошибке посадили в тюрьму из-за распознавания лиц
Сообщение VALL-E от Microsoft кажется самым опасным мошенническим программным обеспечением, когда-либо впервые появившимся на Metaverse Post.