Desde seu anúncio no início de 2023, o VALL-E da Microsoft tem sido apontado como uma ferramenta para melhorar as deficiências das pessoas, traduzindo texto para fala ou substituindo dubladores para tornar um filme ou jogo mais acessível. No entanto, agora parece que o VALL-E pode ser o software de golpe mais perigoso já lançado.

De acordo com os comentários, o VALL-E pode ser usado para enganar pessoas e tirar dinheiro delas imitando a voz de um amigo ou de uma celebridade. É um pouco como máscaras para o FaceApp, mas para voz. A Microsoft ainda não comentou sobre os relatos de que o VALL-E é um golpe.

Índice

• O que é Vall-E?

• Como o Vall-E funciona?

• O que torna Vall-E tão perigoso?

• Como você pode se proteger do Vall-E?

O que é Vall-E?

Vall-E é uma voz sintética que pode ser usada para imitar pessoas reais. Ela é feita usando uma gravação da voz de uma pessoa real e um código da Microsoft. Este código ainda não é público, mas é possível que ele possa ter vazado.

Pesquisadores têm trabalhado para encontrar maneiras de aprimorar a maneira como os sistemas de conversão de texto em fala (TTS) produzem fala desde a introdução do primeiro modelo TTS. O modelo mais recente da Microsoft, o VALL-E, representa um avanço considerável nessa área.

Com apenas uma amostra de três segundos de qualquer voz, o modelo TTS baseado em transformador VALL-E pode produzir fala em todas as vozes. Comparado a modelos anteriores, que precisavam de um período de treinamento significativamente maior para desenvolver uma nova voz, isso representa um avanço considerável. O ChatGPT é proibido nas escolas de Nova York; o resto dos EUA seguirá o exemplo Como o Vall-E funciona?

A melhor parte é que ele requer apenas três segundos de fala para aprender, ou mais precisamente, para microaprendizagem. Isso significa que se você tem um clipe de áudio de três segundos de alguém falando, você pode colocar qualquer texto que quiser na boca dele.

E agora, na voz de Zuckerberg, a IA menospreza infamemente a previsão do tempo no metaverso.

Ouça as amostras na seção Diversity Synthesis rolando para baixo. Esta IA pode adicionar cor à voz e ceder às emoções, além de, digamos, preservar os tons emocionais da amostra.

Exemplo #1

Exemplo #2

Exemplo #3

Ninguém fez isso antes, e é por isso que eles fizeram isso tão habilmente, mas os desenvolvedores usaram até 60.000 horas de fala durante a fase de treinamento (que parece ter sido retirada do aplicativo Teams).

Coloque lágrimas na sua voz para que todos chorem

o diretor de voz agora notoriamente instrui a IA

O plano da Microsoft e da OpenAI para enfrentar o Google com o Bing, alimentado pelo ChatGPT

O que torna Vall-E tão perigoso?

Vall-E é perigoso porque agentes nefastos podem usá-lo para enganar pessoas vulneráveis ​​a transferir fundos para um cartão. Golpistas podem usá-lo para se passar por alguém familiar da vítima, como um membro da família ou um amigo. Isso pode levar as pessoas a perderem muito dinheiro.

A Microsoft ainda não lançou o código para Vall-E, então ele não está disponível para o público em geral. No entanto, se vazado, ele pode ser usado por qualquer pessoa e por qualquer motivo. Isso tornaria quase impossível dizer se a voz de uma pessoa é real ou não.

Se você ouvir uma voz familiar no seu telefone, não presuma que seja uma voz humana. Principalmente se lhe pedirem para transferir fundos para um cartão. Antes, os golpistas tinham dificuldade em fazer isso. Agora, 3 segundos de gravação da voz desejada e um código da Microsoft — que ainda não é público, mas todos vocês estão cientes dos perigos potenciais de vazamentos de dados — podem fazer isso ganhar vida.

Se alguma vez lhe pedirem para transferir fundos para um cartão, certifique-se de verificar a identidade da pessoa antes de enviar qualquer dinheiro.

As marcas d’água do ChatGPT podem ajudar o Google a detectar texto gerado por IA

Como você pode se proteger do Vall-E?

Hoje em dia, é importante estar atento sobre com quem você fala ao telefone. Com o advento da tecnologia de clonagem de voz, agora é possível que golpistas criem gravações falsas de vozes de pessoas reais. Isso pode tornar muito difícil dizer se você está falando com uma pessoa real ou não.

Se você tiver alguma dúvida, há algumas coisas que você pode fazer para se proteger. Primeiro, tente verificar a identidade da pessoa fazendo perguntas que somente a pessoa real saberia responder. Se você ainda não tiver certeza, pode dizer que ligará de volta e ligar para o número que você sabe que pertence a ela. Se você tiver alguma dúvida, pode perguntar à pessoa seu nome e cargo. Se ela estiver relutante em lhe dar essas informações ou parecer suspeita, você sempre pode desligar e ligar para a empresa para a qual ela alega trabalhar para verificar sua identidade.

Você também deve estar ciente dos sinais de alerta que podem indicar que você está falando com um golpista. Desconfie se a pessoa pedir para você transferir fundos para um cartão pré-pago ou se ela estiver usando uma saudação genérica como "Olá, amigo". Desligue o telefone imediatamente se você sentir que está sendo enganado.

Se você for afetado pelo golpe VALL-E, você deve denunciá-lo ao seu departamento de polícia local. Seria bom entrar em contato com a Microsoft para ver se você pode obter um reembolso para evitar bilhões de dólares em processos judiciais.

Leia mais sobre IA:

• O futuro do canto: como a IA está tornando possível que qualquer pessoa se torne um cantor profissional

• ChatGPT: A evolução de um Malware como Serviço

• Claude: O primeiro competidor do ChatGPT chegou

• CB Insights: O metaverso é o perdedor do ano; a IA é a vencedora

• Homem é preso por engano por causa de reconhecimento facial

A postagem O VALL-E da Microsoft parece ser o software de golpe mais perigoso de todos os tempos apareceu primeiro em Metaverse Post.