Seit seiner Ankündigung Anfang 2023 wird Microsofts VALL-E als Tool zur Linderung von Behinderungen angepriesen, das Text in Sprache übersetzt oder Synchronsprecher ersetzt, um Filme oder Spiele erschwinglicher zu machen. Jetzt scheint es jedoch, dass VALL-E die gefährlichste Betrugssoftware aller Zeiten sein könnte.

Den Kommentaren zufolge kann VALL-E dazu verwendet werden, Menschen um Geld zu betrügen, indem die Stimme eines Freundes oder einer Berühmtheit imitiert wird. Es ist ein bisschen wie Masken für FaceApp, aber für die Stimme. Microsoft hat sich zu den Berichten, dass VALL-E ein Betrug sei, noch nicht geäußert.

Inhaltsverzeichnis

• Was ist Vall-E?

• Wie funktioniert Vall-E?

• Was macht Vall-E so gefährlich?

• Wie können Sie sich vor Vall-E schützen?

Was ist Vall-E?

Vall-E ist eine synthetische Stimme, mit der man echte Menschen imitieren kann. Sie wird mithilfe einer Aufnahme der Stimme einer echten Person und eines Microsoft-Codes erstellt. Dieser Code ist noch nicht öffentlich, aber es ist möglich, dass er durchsickert.

Seit Einführung des ersten TTS-Modells arbeiten Forscher daran, die Sprachwiedergabe von Text-to-Speech-Systemen (TTS) zu verbessern. Das neueste Modell von Microsoft, VALL-E, stellt auf diesem Gebiet einen erheblichen Fortschritt dar.

Mit nur einer dreisekündigen Probe einer beliebigen Stimme kann das transformerbasierte TTS-Modell VALL-E Sprache in jeder Stimme erzeugen. Im Vergleich zu früheren Modellen, die eine deutlich längere Trainingszeit benötigten, um eine neue Stimme zu entwickeln, stellt dies einen erheblichen Fortschritt dar. ChatGPT ist in New Yorker Schulen verboten; der Rest der USA wird folgen Wie funktioniert Vall-E?

Das Beste daran ist, dass zum Lernen, genauer gesagt, zum Mikrolernen nur drei Sekunden Sprache erforderlich sind. Das heißt, wenn Sie einen drei Sekunden langen Audioclip von einer sprechenden Person haben, können Sie ihr jeden beliebigen Text in den Mund legen.

Und jetzt macht die KI mit der Stimme von Zuckerberg die Wettervorhersage im Metaversum auf notorische Weise schlecht.

Hören Sie sich die Samples im Abschnitt „Diversity Synthesis“ an, indem Sie nach unten scrollen. Diese KI kann der Stimme Farbe verleihen und Emotionen nachgeben, zusätzlich beispielsweise dazu, die emotionalen Töne des Samples beizubehalten.

Beispiel 1

Beispiel Nr. 2

Beispiel Nr. 3

Niemand hatte das zuvor getan, weshalb sie es so geschickt angegangen sind. Allerdings haben die Entwickler während der Trainingsphase bis zu 60.000 Stunden Sprachmaterial verwendet (das offenbar aus der Teams-App herausgeschnitten wurde).

Bringe Tränen in deine Stimme, damit alle weinen

der Voice Director weist nun notorisch die KI an

Microsoft und OpenAI wollen Google mit Bing und ChatGPT herausfordern

Was macht Vall-E so gefährlich?

Vall-E ist gefährlich, weil es von böswilligen Agenten dazu genutzt werden könnte, gefährdete Personen dazu zu bringen, Geld auf eine Karte zu überweisen. Betrüger können es nutzen, um sich als eine dem Opfer vertraute Person auszugeben, beispielsweise als Familienmitglied oder Freund. Dies kann dazu führen, dass die Leute viel Geld verlieren.

Microsoft hat den Code für Vall-E noch nicht freigegeben, er ist also nicht für die breite Öffentlichkeit verfügbar. Sollte er jedoch durchsickern, könnte er von jedem und aus jedem beliebigen Grund verwendet werden. Dann wäre es nahezu unmöglich zu sagen, ob die Stimme einer Person echt ist oder nicht.

Wenn Sie auf Ihrem Telefon eine vertraute Stimme hören, gehen Sie nicht davon aus, dass es sich um eine menschliche Stimme handelt. Insbesondere, wenn Sie aufgefordert werden, Geld auf eine Karte zu überweisen. Früher war das für Betrüger keine leichte Aufgabe. Heute können Sie die gewünschte Stimme in 3 Sekunden aufnehmen und mithilfe eines Microsoft-Codes – der noch nicht öffentlich ist, aber Sie alle sind sich der potenziellen Gefahren von Datenlecks bewusst – zum Leben erwecken.

Wenn Sie jemals aufgefordert werden, Geld auf eine Karte zu überweisen, überprüfen Sie unbedingt die Identität der Person, bevor Sie Geld senden.

Die Wasserzeichen von ChatGPT können Google dabei helfen, KI-generierten Text zu erkennen

Wie können Sie sich vor Vall-E schützen?

Heutzutage ist es wichtig, darauf zu achten, mit wem man am Telefon spricht. Mit dem Aufkommen der Technologie zum Klonen von Stimmen ist es Betrügern nun möglich, gefälschte Aufnahmen der Stimmen echter Menschen zu erstellen. Dadurch kann es sehr schwierig werden, festzustellen, ob Sie mit einer echten Person sprechen oder nicht.

Wenn Sie jemals Zweifel haben, können Sie einige Dinge tun, um sich zu schützen. Versuchen Sie zunächst, die Identität der Person zu überprüfen, indem Sie ihr Fragen stellen, deren Antwort nur die echte Person kennen kann. Wenn Sie sich immer noch nicht sicher sind, können Sie ihr sagen, dass Sie sie zurückrufen werden, und die Nummer anrufen, von der Sie wissen, dass sie ihr gehört. Wenn Sie Zweifel haben, können Sie die Person nach ihrem Namen und ihrer Position fragen. Wenn sie Ihnen diese Informationen nicht geben möchte oder Ihnen anderweitig zwielichtig vorkommt, können Sie immer noch auflegen und das Unternehmen anrufen, für das sie angeblich arbeitet, um ihre Identität zu überprüfen.

Achten Sie auch auf Warnzeichen, die darauf hinweisen können, dass Sie mit einem Betrüger sprechen. Seien Sie misstrauisch, wenn die Person Sie auffordert, Geld auf eine Prepaid-Karte zu überweisen, oder wenn sie eine allgemeine Begrüßung wie „Hallo, Freund“ verwendet. Legen Sie sofort auf, wenn Sie das Gefühl haben, betrogen zu werden.

Wenn Sie vom VALL-E-Betrug betroffen sind, sollten Sie ihn Ihrer örtlichen Polizeidienststelle melden. Es wäre gut, sich an Microsoft zu wenden, um zu prüfen, ob Sie eine Rückerstattung erhalten können, um Klagen in Milliardenhöhe zu vermeiden.

Lesen Sie mehr zum Thema KI:

• Die Zukunft des Singens: Wie KI es jedem ermöglicht, ein professioneller Sänger zu werden

• ChatGPT: Die Entwicklung einer Malware als Service

• Claude: Der erste ChatGPT-Konkurrent ist da

• CB Insights: Das Metaversum ist der Verlierer des Jahres; KI ist der Gewinner

• Mann wegen Gesichtserkennung irrtümlich inhaftiert

Der Beitrag „Microsofts VALL-E scheint die gefährlichste Betrugssoftware aller Zeiten zu sein“ erschien zuerst auf Metaverse Post.