Kể từ khi được công bố vào đầu năm 2023, VALL-E của Microsoft đã được quảng cáo là một công cụ giúp cải thiện tình trạng khuyết tật của mọi người bằng cách dịch văn bản sang lời nói hoặc thay thế diễn viên lồng tiếng để tạo ra một bộ phim hoặc trò chơi có giá cả phải chăng hơn. Tuy nhiên, hiện tại có vẻ như VALL-E có thể là phần mềm lừa đảo nguy hiểm nhất từng được phát hành.

Theo các bình luận, VALL-E có thể được sử dụng để lừa tiền của mọi người bằng cách bắt chước giọng nói của một người bạn hoặc giọng nói của một người nổi tiếng. Nó hơi giống mặt nạ dành cho FaceApp nhưng dành cho giọng nói. Microsoft vẫn chưa bình luận về báo cáo cho rằng VALL-E là một trò lừa đảo.

Mục lục

  • Vall-E là gì?

  • Vall-E hoạt động như thế nào?

  • Điều gì khiến Vall-E trở nên nguy hiểm đến vậy?

  • Làm thế nào bạn có thể bảo vệ mình khỏi Vall-E?

Vall-E là gì?

Vall-E là giọng nói tổng hợp có thể được sử dụng để bắt chước người thật. Nó được tạo bằng cách sử dụng bản ghi âm giọng nói của người thật và mã Microsoft. Mã này vẫn chưa được công khai nhưng có thể nó sẽ bị rò rỉ.

Các nhà nghiên cứu đã nỗ lực tìm cách nâng cao cách hệ thống chuyển văn bản thành giọng nói (TTS) tạo ra giọng nói kể từ khi mô hình TTS đầu tiên được giới thiệu. Mẫu máy gần đây nhất của Microsoft, VALL-E, thể hiện sự tiến bộ đáng kể trong lĩnh vực này.

Chỉ với một mẫu ba giây của bất kỳ giọng nói nào, mẫu TTS dựa trên máy biến áp VALL-E có thể tạo ra giọng nói ở mọi giọng nói. So với các mẫu trước đó cần thời gian đào tạo lâu hơn đáng kể để phát triển giọng mới, thì đây là một bước tiến đáng kể. ChatGPT bị cấm ở các trường học ở New York; phần còn lại của Hoa Kỳ sẽ làm theo Vall-E hoạt động như thế nào?

Điều tuyệt vời nhất là nó chỉ cần ba giây nói để học, hay chính xác hơn là cho microlearning. Điều này có nghĩa là nếu bạn có một đoạn âm thanh dài ba giây về một người nào đó đang nói chuyện, bạn có thể đặt bất kỳ văn bản nào bạn muốn vào miệng họ.

Và bây giờ, theo giọng nói của Zuckerberg, AI đã chê bai dự đoán thời tiết trong metaverse một cách khét tiếng.

Nghe các mẫu trong phần Tổng hợp đa dạng bằng cách cuộn xuống. AI này có thể thêm màu sắc cho giọng nói và mang lại cảm xúc, ngoài ra, còn bảo tồn tông màu cảm xúc của mẫu.

Ví dụ 1

Ví dụ #2

Ví dụ #3

Trước đây chưa có ai làm điều đó, đó là lý do tại sao họ làm điều đó một cách khéo léo đến vậy, nhưng các nhà phát triển đã sử dụng tới 60.000 giờ phát biểu trong giai đoạn đào tạo (dường như đã bị cắt bớt khỏi ứng dụng Teams).

Hãy rơi nước mắt vào giọng nói của bạn để mọi người sẽ khóc

đạo diễn lồng tiếng giờ đây nổi tiếng là người hướng dẫn AI

Kế hoạch của Microsoft và OpenAI nhằm cạnh tranh với Google với Bing do ChatGPT cung cấp

Điều gì khiến Vall-E trở nên nguy hiểm đến vậy?

Vall-E nguy hiểm vì những kẻ bất chính có thể sử dụng nó để lừa những người dễ bị tổn thương chuyển tiền vào thẻ. Những kẻ lừa đảo có thể sử dụng nó để mạo danh một người quen thuộc với nạn nhân, chẳng hạn như thành viên gia đình hoặc bạn bè. Điều này có thể khiến mọi người mất rất nhiều tiền.

Microsoft vẫn chưa phát hành mã cho Vall-E nên nó chưa được cung cấp rộng rãi cho công chúng. Tuy nhiên, nếu bị rò rỉ, nó có thể được sử dụng bởi bất kỳ ai và vì bất kỳ lý do gì. Điều này khiến cho việc xác định giọng nói của một người có phải là thật hay không là gần như không thể.

Nếu bạn nghe thấy một giọng nói quen thuộc trên điện thoại, đừng cho rằng đó là giọng nói của con người. Đặc biệt nếu bạn được yêu cầu chuyển tiền vào thẻ. Trước đây, những kẻ lừa đảo đã gặp khó khăn trong việc thực hiện nó. Giờ đây, 3 giây ghi âm giọng nói mong muốn và một mã Microsoft—vẫn chưa được công khai nhưng tất cả các bạn đều biết về mối nguy hiểm tiềm tàng của việc rò rỉ dữ liệu—có thể khiến nó trở nên sống động.

Nếu bạn được yêu cầu chuyển tiền vào thẻ, hãy nhớ xác minh danh tính của người đó trước khi gửi bất kỳ khoản tiền nào.

Hình mờ của ChatGPT có thể giúp Google phát hiện văn bản do AI tạo

Làm thế nào bạn có thể bảo vệ mình khỏi Vall-E?

Ngày nay, điều quan trọng là phải thận trọng với người mà bạn nói chuyện qua điện thoại. Với sự ra đời của công nghệ nhân bản giọng nói, giờ đây những kẻ lừa đảo có thể tạo ra các bản ghi âm giả giọng nói của người thật. Điều này có thể khiến bạn rất khó biết liệu bạn có đang nói chuyện với người thật hay không.

Nếu bạn từng nghi ngờ, có một số điều bạn có thể làm để bảo vệ chính mình. Đầu tiên, hãy cố gắng xác minh danh tính của người đó bằng cách hỏi họ những câu hỏi mà chỉ người thật mới biết câu trả lời. Nếu bạn vẫn không chắc chắn, bạn có thể nói với họ rằng bạn sẽ gọi lại cho họ và gọi đến số mà bạn biết là của họ. Nếu có bất kỳ nghi ngờ nào, bạn có thể hỏi tên và chức vụ của người đó. Nếu họ miễn cưỡng cung cấp cho bạn thông tin này hoặc có vẻ mờ ám, bạn luôn có thể cúp máy và gọi cho công ty mà họ đang làm việc để xác minh danh tính của họ.

Bạn cũng nên lưu ý những dấu hiệu cảnh báo có thể cho thấy bạn đang nói chuyện với kẻ lừa đảo. Hãy nghi ngờ nếu người đó yêu cầu bạn chuyển tiền vào thẻ trả trước hoặc nếu họ đang sử dụng lời chào chung chung như “Xin chào, bạn”. Hãy cúp máy ngay nếu bạn cảm thấy mình đang bị lừa.

Nếu bạn bị ảnh hưởng bởi trò lừa đảo VALL-E, bạn nên báo cáo sự việc đó với sở cảnh sát địa phương. Sẽ rất tốt nếu liên hệ với Microsoft để xem liệu bạn có thể được hoàn lại tiền để ngăn chặn các vụ kiện hàng tỷ đô la hay không.

Đọc thêm về AI:

  • Tương lai của ca hát: AI giúp mọi người có thể trở thành ca sĩ chuyên nghiệp như thế nào

  • ChatGPT: Sự phát triển của Phần mềm độc hại dưới dạng Dịch vụ

  • Claude: Đối thủ ChatGPT đầu tiên đã đến

  • CB Insights: Metaverse thua cuộc trong năm; AI là người chiến thắng

  • Người đàn ông bị bỏ tù nhầm vì nhận dạng khuôn mặt

Bài đăng VALL-E của Microsoft dường như là phần mềm lừa đảo nguy hiểm nhất từng xuất hiện đầu tiên trên Metaverse Post.