Sejak diumumkan pada awal tahun 2023, VALL-E besutan Microsoft telah disebut-sebut sebagai alat untuk meningkatkan kemampuan penyandang disabilitas dengan menerjemahkan teks ke dalam ucapan atau mengganti pengisi suara agar film atau game lebih terjangkau. Namun, kini tampaknya VALL-E mungkin merupakan perangkat lunak penipuan paling berbahaya yang pernah dirilis.

Menurut komentar, VALL-E dapat digunakan untuk menipu orang agar mengeluarkan uang dengan meniru suara teman atau suara selebritas. Mirip seperti topeng untuk FaceApp, tetapi untuk suara. Microsoft belum mengomentari laporan bahwa VALL-E adalah penipuan.

Daftar isi

  • Apa itu Vall-E?

  • Bagaimana cara kerja Vall-E?

  • Apa yang membuat Vall-E begitu berbahaya?

  • Bagaimana Anda dapat melindungi diri dari Vall-E?

Apa itu Vall-E?

Vall-E adalah suara sintetis yang dapat digunakan untuk meniru orang sungguhan. Suara ini dibuat menggunakan rekaman suara orang sungguhan dan kode Microsoft. Kode ini belum dipublikasikan, tetapi ada kemungkinan bisa bocor.

Para peneliti telah berupaya menemukan cara untuk meningkatkan cara sistem text-to-speech (TTS) menghasilkan ucapan sejak diperkenalkannya model TTS pertama. Model Microsoft terbaru, VALL-E, merupakan kemajuan yang cukup besar dalam bidang ini.

Dengan hanya tiga detik sampel suara apa pun, model TTS berbasis transformer VALL-E dapat menghasilkan ucapan dalam setiap suara. Dibandingkan dengan model sebelumnya, yang membutuhkan periode pelatihan yang jauh lebih lama untuk mengembangkan suara baru, ini merupakan kemajuan yang cukup besar. ChatGPT dilarang di sekolah-sekolah New York; seluruh AS akan mengikutinya Bagaimana cara kerja Vall-E?

Bagian terbaiknya adalah hanya butuh tiga detik bicara untuk belajar, atau lebih tepatnya, untuk pembelajaran mikro. Ini berarti jika Anda memiliki klip audio tiga detik dari seseorang yang berbicara, Anda dapat memasukkan teks apa pun yang Anda inginkan ke dalam mulutnya.

Dan sekarang, dalam suara Zuckerberg, AI secara terkenal meremehkan prediksi cuaca di metaverse.

Dengarkan sampel di bagian Diversity Synthesis dengan menggulir ke bawah. AI ini dapat menambahkan warna pada suara dan memberikan emosi selain, misalnya, mempertahankan nada emosional sampel.

Contoh #1

Contoh #2

Contoh #3

Tidak ada yang melakukannya sebelumnya, itulah sebabnya mereka melakukannya dengan sangat cekatan, tetapi pengembang menggunakan hingga 60.000 jam bicara selama fase pelatihan (yang tampaknya dipotong dari aplikasi Teams).

Taruh air mata di suaramu sehingga semua orang akan menangis

sutradara suara sekarang terkenal menginstruksikan AI

Rencana Microsoft dan OpenAI untuk menyaingi Google dengan Bing yang didukung oleh ChatGPT

Apa yang membuat Vall-E begitu berbahaya?

Vall-E berbahaya karena agen jahat dapat menggunakannya untuk mengelabui orang yang rentan agar mentransfer dana ke kartu. Penipu dapat menggunakannya untuk menyamar sebagai seseorang yang dikenal korban, seperti anggota keluarga atau teman. Hal ini dapat menyebabkan orang kehilangan banyak uang.

Microsoft belum merilis kode untuk Vall-E, jadi kode tersebut tidak tersedia untuk masyarakat umum. Namun, jika bocor, kode tersebut dapat digunakan oleh siapa saja dan untuk alasan apa pun. Hal ini akan membuat hampir mustahil untuk mengetahui apakah suara seseorang asli atau tidak.

Jika Anda mendengar suara yang familiar di ponsel Anda, jangan berasumsi bahwa itu suara manusia. Terutama jika Anda diminta untuk mentransfer dana ke kartu. Sebelumnya, penipu kesulitan melakukannya. Kini, rekaman suara yang diinginkan selama 3 detik dan kode Microsoft—yang belum dipublikasikan, tetapi Anda semua menyadari potensi bahaya kebocoran data—dapat mewujudkannya.

Jika Anda diminta mentransfer dana ke kartu, pastikan untuk memverifikasi identitas orang tersebut sebelum mengirim uang.

Tanda air ChatGPT dapat membantu Google mendeteksi teks yang dihasilkan AI

Bagaimana Anda dapat melindungi diri dari Vall-E?

Saat ini, penting untuk waspada terhadap siapa yang Anda ajak bicara di telepon. Dengan munculnya teknologi kloning suara, kini penipu dapat membuat rekaman palsu dari suara orang sungguhan. Hal ini dapat membuat sangat sulit untuk mengetahui apakah Anda berbicara dengan orang sungguhan atau tidak.

Jika Anda ragu, ada beberapa hal yang dapat Anda lakukan untuk melindungi diri sendiri. Pertama, cobalah untuk memverifikasi identitas orang tersebut dengan mengajukan pertanyaan yang hanya orang yang sebenarnya tahu jawabannya. Jika Anda masih tidak yakin, Anda dapat memberi tahu mereka bahwa Anda akan menelepon mereka kembali dan menghubungi nomor yang Anda tahu milik mereka. Jika Anda ragu, Anda dapat menanyakan nama dan jabatan mereka. Jika mereka enggan memberikan informasi ini atau tampak mencurigakan, Anda selalu dapat menutup telepon dan menghubungi perusahaan tempat mereka bekerja untuk memverifikasi identitas mereka.

Anda juga harus waspada terhadap tanda-tanda yang mungkin mengindikasikan bahwa Anda berbicara dengan seorang penipu. Waspadalah jika orang tersebut meminta Anda mentransfer dana ke kartu prabayar atau jika mereka menggunakan sapaan umum seperti "Halo, teman." Segera tutup telepon jika Anda merasa tertipu.

Jika Anda terkena dampak penipuan VALL-E, Anda harus melaporkannya ke kantor polisi setempat. Sebaiknya hubungi Microsoft untuk mengetahui apakah Anda bisa mendapatkan pengembalian dana guna mencegah tuntutan hukum bernilai miliaran dolar.

Baca lebih lanjut tentang AI:

  • Masa depan bernyanyi: Bagaimana AI memungkinkan siapa pun menjadi penyanyi profesional

  • ChatGPT: Evolusi Malware sebagai Layanan

  • Claude: Pesaing ChatGPT pertama telah tiba

  • CB Insights: Metaverse adalah pecundang tahun ini; AI adalah pemenangnya

  • Seorang pria secara keliru dipenjara karena pengenalan wajah

Postingan VALL-E Microsoft tampaknya merupakan perangkat lunak penipuan paling berbahaya yang pernah ada muncul pertama kali di Metaverse Post.