マイクロソフトのVALL-Eは、2023年初頭の発表以来、テキストを音声に変換したり、声優を置き換えて映画やゲームをより手頃な価格にしたりすることで、人々の障害を改善するツールとして宣伝されてきました。しかし、現在では、VALL-Eはこれまでにリリースされた中で最も危険な詐欺ソフトウェアである可能性があるようです。
コメントによると、VALL-E は友人や有名人の声を真似て金銭をだまし取るのに使われる可能性がある。FaceApp のマスクのようなものだが、音声用だ。Microsoft は、VALL-E が詐欺であるという報告についてまだコメントしていない。
目次
Vall-Eとは何ですか?
Vall-Eはどのように機能しますか?
Vall-E がなぜそれほど危険なのか?
Vall-E から身を守るにはどうすればよいでしょうか?
Vall-Eとは何ですか?
Vall-E は、実際の人間の声を真似ることができる合成音声です。実際の人間の声の録音と Microsoft コードを使用して作成されています。このコードはまだ公開されていませんが、漏洩する可能性があります。
最初の TTS モデルが導入されて以来、研究者たちはテキスト読み上げ (TTS) システムの音声生成方法を向上させる方法を見つけるべく取り組んできました。最新の Microsoft モデルである VALL-E は、この分野における大きな進歩を表しています。
トランスフォーマーベースの TTS モデル VALL-E は、任意の音声の 3 秒間のサンプルだけで、あらゆる音声で音声を生成できます。新しい音声を開発するためにかなり長いトレーニング期間を必要とした以前のモデルと比較すると、これは大きな進歩です。ChatGPT はニューヨークの学校で禁止されており、米国の他の州もこれに追随します。Vall-E はどのように機能しますか?
最も優れている点は、学習、より正確にはマイクロラーニングに必要なのはたった 3 秒の音声だけだということです。つまり、誰かが話している 3 秒間の音声クリップがあれば、その人の口に好きなテキストを入れることができるのです。
そして今、ザッカーバーグの声で、AI はメタバースの天気予報を悪名高く軽蔑している。
下にスクロールして、多様性合成セクションのサンプルを聞いてください。この AI は、サンプルの感情的なトーンを維持するだけでなく、声に色を付けたり、感情を表現したりすることができます。
例 1
例2
例3
これまで誰もやったことがなかったため、非常に巧みに実現できたのですが、開発者はトレーニング段階で最大 60,000 時間の音声を使用しました (これは Teams アプリから切り取られたようです)。
みんなが泣けるように声に涙を込める
音声ディレクターは今やAIに指示を出すことで有名だ
Microsoft と OpenAI は ChatGPT を搭載した Bing で Google に対抗する計画
Vall-E がなぜそれほど危険なのか?
Vall-E が危険なのは、悪意のあるエージェントがこれを利用して、弱い立場の人々を騙し、カードに資金を移すことができるからです。詐欺師はこれを利用して、家族や友人など、被害者の身近な人物になりすますことができます。これにより、人々は多額のお金を失う可能性があります。
Microsoft はまだ Vall-E のコードを公開していないため、一般公開されていません。しかし、漏洩した場合、誰でも、どのような目的でも使用できるようになります。これにより、人の声が本物かどうかを見分けることがほぼ不可能になります。
電話で聞き覚えのある声が聞こえても、それが人間の声だとは思わないでください。特に、カードに資金を振り込むように求められた場合はなおさらです。以前は、詐欺師がそれを実行するのに苦労していました。今では、希望する声を 3 秒間録音し、Microsoft コード (まだ公開されていませんが、データ漏洩の潜在的な危険性は皆さんご存じでしょう) を入力するだけで、それを実行できます。
カードに送金するよう求められた場合は、送金する前に必ず本人確認を行ってください。
ChatGPTの透かしはGoogleがAI生成テキストを検出するのに役立つ
Vall-E から身を守るにはどうすればよいでしょうか?
最近では、電話で話す相手に警戒することが重要です。音声クローン技術の登場により、詐欺師が実在の人物の声を偽って録音することが可能になりました。これにより、実在の人物と話しているのかどうかを見分けるのが非常に難しくなります。
疑わしい場合は、自分を守るためにできることがいくつかあります。まず、本人にしか答えられないような質問をして、相手の身元を確認します。それでも確信が持てない場合は、折り返し電話すると伝え、相手の電話番号に電話をかけます。疑わしい場合は、相手の名前と役職を尋ねます。相手が情報を提供したがらなかったり、怪しい場合は、電話を切って、相手が勤務しているという会社に電話して身元を確認することができます。
また、詐欺師と話していることを示す危険信号にも注意する必要があります。相手がプリペイド カードに資金を振り込むように頼んできたり、「こんにちは、お友達」のような一般的な挨拶をしてきたりする場合は疑ってください。詐欺に遭っていると感じたら、すぐに電話を切りましょう。
VALL-E 詐欺の被害に遭った場合は、地元の警察署に通報してください。数十億ドルの訴訟を防ぐために、Microsoft に連絡して払い戻しを受けられるかどうか確認することをお勧めします。
AI について詳しく読む:
歌の未来: AI によって誰でもプロの歌手になれるようになる
ChatGPT: サービスとしてのマルウェアの進化
クロード: ChatGPTの最初の参加者が到着しました
CB Insights: メタバースは今年の敗者、AIが勝者
顔認識のせいで誤って投獄された男性
Microsoft の VALL-E はこれまでで最も危険な詐欺ソフトウェアのようですという記事が最初に Metaverse Post に掲載されました。