YouTuber nổi tiếng và nhà từ thiện MrBeast gần đây đã đối đầu với TikTok của ByteDance Ltd. vì cho phép một video deepfake lưu hành trên nền tảng của mình. Video có cảnh mạo danh MrBeast do AI tạo ra, thông báo về chương trình tặng miễn phí 10.000 iPhone 15 Pro với giá chỉ 2 đô la mỗi chiếc. Sự cố này làm nổi bật mối lo ngại ngày càng tăng xung quanh deepfake AI trên các nền tảng truyền thông xã hội và khả năng lừa dối người dùng của chúng. Trong bài viết này, chúng tôi sẽ đi sâu vào chi tiết của cuộc tranh cãi này và những tác động của nó đối với tính xác thực của nội dung trực tuyến.

Lừa đảo deepfake

TikTok, một nền tảng truyền thông xã hội nổi tiếng, đã chạy một quảng cáo giới thiệu phiên bản deepfake do AI tạo ra của MrBeast. Trong video, kẻ mạo danh tuyên bố đang tổ chức "cuộc tặng iPhone 15 lớn nhất thế giới" với giá mỗi chiếc iPhone chỉ 2 đô la. Lời đề nghị táo bạo này tự nhiên đã thu hút sự chú ý đáng kể, đặc biệt là khi xét đến danh tiếng của MrBeast trong việc tổ chức các cuộc tặng và cuộc thi.

Phản hồi của MrBeast

Sau khi phát hiện ra video deepfake, MrBeast đã lên mạng xã hội để bày tỏ mối quan ngại của mình. Anh chỉ ra rằng "Rất nhiều người đang nhận được quảng cáo lừa đảo deepfake này của tôi" và đặt câu hỏi liệu các nền tảng truyền thông xã hội có được chuẩn bị đầy đủ để chống lại sự gia tăng của deepfake AI hay không. Tuyên bố công khai của anh đã thêm tiếng nói của anh vào điệp khúc của những người nổi tiếng đã trở thành nạn nhân của các trò mạo danh deepfake đang lan truyền trên mạng xã hội.

Vạch trần deepfake

Mặc dù quảng cáo deepfake có logo chính thức của MrBeast và dấu tích màu xanh, nhưng những người xem tinh ý vẫn có thể nhận ra dấu hiệu thao túng AI. Những người quan sát nhận thấy giọng nói bị bóp méo và cử động miệng không tự nhiên, cả hai đều là đặc điểm của nội dung do AI tạo ra. Mặc dù vậy, video vẫn thu hút được sự chú ý, chứng minh tính hiệu quả của những trò lừa đảo như vậy, đặc biệt là đối với những người dùng ít tinh ý hơn.

Phản hồi của TikTok

Để phản hồi lại tranh cãi, một phát ngôn viên của TikTok đã xác nhận rằng quảng cáo gian lận đã nhanh chóng bị xóa sau vài giờ đăng tải và tài khoản liên quan chịu trách nhiệm về deepfake đã bị xóa do vi phạm chính sách. TikTok cũng đã thực hiện các bước để chống lại sự gia tăng của nội dung do AI tạo ra bằng cách giới thiệu các công cụ cho phép người sáng tạo gắn nhãn nội dung đó và thử nghiệm các cơ chế gắn nhãn tự động.

Một xu hướng trong deepfake của người nổi tiếng

MrBeast không phải là người nổi tiếng duy nhất bị nhắm đến bởi các vụ mạo danh deepfake. Gần đây, nam diễn viên Tom Hanks đã đưa ra một tuyên bố trên Instagram lên án phiên bản deepfake của chính mình khi quảng cáo cho một kế hoạch nha khoa. Ông đã làm rõ rằng ông "không liên quan gì đến chuyện này". Tương tự như vậy, con gái của Robin Williams, Zelda, đã bày tỏ sự khó chịu của mình với việc AI tái tạo giọng nói của cha cô, gọi chúng là "gây khó chịu cá nhân" và "những con quái vật Frankenstein kinh hoàng".

Diễn viên người Anh Stephen Fry cũng là nạn nhân của việc sử dụng AI sai mục đích, khi giọng nói của anh bị sử dụng mà không được phép cho nội dung liên quan đến truyện Harry Potter. Những sự cố này làm nổi bật tốc độ gia tăng của deepfake trong thời đại công nghệ AI tiên tiến.

Thách thức trong việc phát hiện deepfake

Trong khi những gã khổng lồ công nghệ như Google đang nghiên cứu các giải pháp như SynthID để phát hiện hình ảnh do AI tạo ra, thì việc giải quyết âm thanh và video deepfake vẫn là một thách thức phức tạp. Phát hiện thao túng AI theo thời gian thực là một nhiệm vụ khó khăn và sẽ mất thời gian trước khi có các giải pháp toàn diện. Trong thời gian chờ đợi, người dùng được khuyến khích thận trọng, sử dụng lý lẽ thông thường và kiểm tra thông tin có vẻ đáng ngờ.

Tranh cãi về deepfake của MrBeast là lời nhắc nhở nghiêm khắc về những rủi ro do deepfake AI gây ra trong lĩnh vực truyền thông xã hội. Nó nhấn mạnh nhu cầu các nền tảng như TikTok phải luôn cảnh giác trong việc ngăn chặn việc phát tán nội dung lừa đảo. Hơn nữa, nó nhấn mạnh tính cấp thiết của những tiến bộ công nghệ để chống lại sự gia tăng của các vụ mạo danh người nổi tiếng và nhân vật công chúng do AI tạo ra. Cho đến khi các giải pháp toàn diện được đưa ra, người dùng trực tuyến phải luôn cảnh giác và quan trọng để bảo vệ bản thân khỏi việc trở thành nạn nhân của những vụ lừa đảo như vậy.