Od svého oznámení na začátku roku 2023 je VALL-E od společnosti Microsoft nabízen jako nástroj ke zlepšení postižení lidí převodem textu do řeči nebo nahrazením hlasových herců, aby byl film nebo hra dostupnější. Nyní se však zdá, že VALL-E může být nejnebezpečnějším podvodným softwarem, který byl kdy vydán.
Podle komentářů lze VALL-E použít k ošizení lidí o peníze napodobováním hlasu přítele nebo hlasu celebrity. Je to trochu jako masky pro FaceApp, ale pro hlas. Microsoft zatím nekomentoval zprávy o tom, že VALL-E je podvod.
Obsah
Co je Vall-E?
Jak Vall-E funguje?
Co dělá Vall-E tak nebezpečným?
Jak se můžete chránit před Vall-E?
Co je Vall-E?
Vall-E je syntetický hlas, který lze použít k napodobování skutečných lidí. Vytváří se pomocí nahrávky hlasu skutečné osoby a kódu společnosti Microsoft. Tento kód zatím není veřejný, ale je možné, že by mohl uniknout.
Od zavedení prvního modelu TTS se výzkumníci snaží najít způsoby, jak zlepšit způsob, jakým systémy převodu textu na řeč (TTS) produkují řeč. Nejnovější model společnosti Microsoft, VALL-E, představuje v této oblasti značný pokrok.
S pouhým třísekundovým vzorkem jakéhokoli hlasu dokáže model TTS VALL-E založený na transformátoru produkovat řeč v každém hlasu. Ve srovnání s dřívějšími modely, které potřebovaly výrazně delší dobu tréninku na vývoj nového hlasu, to představuje značný pokrok. ChatGPT je ve školách v New Yorku zakázán; zbytek USA bude následovat Jak Vall-E funguje?
Nejlepší na tom je, že to vyžaduje pouhé tři sekundy řeči pro učení, nebo přesněji pro mikroučení. To znamená, že pokud máte třísekundový zvukový klip s někým mluvícím, můžete mu do úst vložit libovolný text.
A nyní, hlasem Zuckerberga, AI neslavně znevažuje předpověď počasí v metavesmíru.
Poslechněte si ukázky v sekci Syntéza diverzity posunutím dolů. Tato umělá inteligence může přidat barvu hlasu a poddat se emocím kromě, řekněme, zachování emocionálních tónů vzorku.
Příklad #1
Příklad č. 2
Příklad č. 3
Předtím to nikdo neudělal, a proto to udělali tak obratně, ale vývojáři během tréninkové fáze použili až 60 000 hodin řeči (která se zdá být vystřižena z aplikace Teams).
Dejte slzy do svého hlasu, aby všichni plakali
hlasový ředitel nyní notoricky instruuje AI
Plán Microsoftu a OpenAI převzít Google pomocí Bingu založeného na ChatGPT
Co dělá Vall-E tak nebezpečným?
Vall-E je nebezpečný, protože by ho mohli zneužít hanební agenti, aby přiměli zranitelné lidi k převodu peněz na kartu. Podvodníci jej mohou použít k tomu, aby se vydávali za někoho, koho oběť zná, například za člena rodiny nebo přítele. To může vést k tomu, že lidé přijdou o spoustu peněz.
Microsoft zatím neuvolnil kód pro Vall-E, takže není dostupný široké veřejnosti. Pokud by však unikla, mohla by ji použít kdokoli az jakéhokoli důvodu. Díky tomu by bylo téměř nemožné zjistit, zda je hlas osoby skutečný nebo ne.
Pokud na svém telefonu uslyšíte známý hlas, nepředpokládejte, že je to lidský hlas. Zejména pokud jste požádáni o převod prostředků na kartu. Předtím to měli podvodníci jen s obtížemi. Nyní 3 sekundy záznamu požadovaného hlasu a kódu Microsoftu – který zatím není veřejný, ale všichni jste si vědomi potenciálního nebezpečí úniku dat – jej mohou oživit.
Pokud budete někdy požádáni o převod prostředků na kartu, nezapomeňte před odesláním jakýchkoli peněz ověřit totožnost osoby.
Vodoznaky ChatGPT mohou Googlu pomoci detekovat text generovaný umělou inteligencí
Jak se můžete chránit před Vall-E?
V dnešní době je důležité dávat si pozor na to, s kým telefonujete. S příchodem technologie klonování hlasu je nyní možné, aby podvodníci vytvořili falešné nahrávky hlasů skutečných lidí. Díky tomu může být velmi obtížné zjistit, zda mluvíte se skutečnou osobou nebo ne.
Pokud jste někdy na pochybách, existuje několik věcí, které můžete udělat, abyste se ochránili. Nejprve se pokuste ověřit identitu osoby tím, že jí položíte otázky, na které bude znát odpověď pouze skutečná osoba. Pokud si stále nejste jisti, můžete jim říci, že jim zavoláte zpět a zavoláte na číslo, o kterém víte, že jim patří. Pokud máte nějaké pochybnosti, můžete se dotyčné osoby zeptat na její jméno a pozici. Pokud se zdráhají poskytnout vám tyto informace nebo se vám budou zdát jinak pochybné, můžete vždy zavěsit a zavolat společnosti, pro kterou údajně pracují, a ověřit jejich identitu.
Měli byste si také dávat pozor na červené vlajky, které mohou naznačovat, že mluvíte s podvodníkem. Buďte podezřívaví, pokud vás daná osoba žádá o převod prostředků na předplacenou kartu nebo pokud používá obecný pozdrav jako „Ahoj, příteli“. Pokud máte pocit, že jste podvedeni, okamžitě zavěste telefon.
Pokud se vás týká podvod VALL-E, měli byste to nahlásit místnímu policejnímu oddělení. Bylo by dobré kontaktovat společnost Microsoft a zjistit, zda můžete získat náhradu, abyste zabránili miliardám dolarů v soudních sporech.
Přečtěte si více o AI:
Budoucnost zpěvu: Jak umělá inteligence umožňuje komukoli stát se profesionálním zpěvákem
ChatGPT: Vývoj malwaru jako služby
Claude: Přišel první konkurent ChatGPT
CB Insights: Metaverse je propadákem roku; AI je vítěz
Muž byl omylem uvězněn kvůli rozpoznání obličeje
Příspěvek Microsoft VALL-E se zdá být nejnebezpečnějším podvodným softwarem, který se kdy objevil jako první na Metaverse Post.