1.280 nhân dân tệ, một gương mặt có sẵn. Dùng nó để livestream, người trong màn hình gọi khán giả là người nhà, còn món mỹ phẩm họ bán thì chính chủ đến cả cái chai cũng chưa từng thấy.
Rạng sáng nay, diễn viên Ngô Việt đăng bài trên Weibo. Tôi tìm xem hết video mà cô ấy nêu đích danh. Vừa tỉnh giấc, đã thấy AI bị lợi dụng trắng trợn để mạo danh người khác và làm chuyện xấu. Trong video, cô ấy giới thiệu một sản phẩm dưỡng da, nói rằng chính mình đã thương lượng với nhà sản xuất, phối hợp tặng quà để tri ân những người hâm mộ lâu năm. Lời chào mời nối tiếp lời chào mời. Mua một tặng ba mươi. Qua hôm nay là không còn nữa. Còn rẻ hơn cả đợt khuyến mãi lớn. Không tốt thì cứ trả lại cho tôi. Mẹ bầu cũng dùng được. Tài khoản có tên “Nhật ký dưỡng da chị Hoa”; trong vài video khác còn có cảnh Đặng Á Bình bán hàng. Bên dưới video có một dòng chữ nhỏ: “Nội dung do AI tạo ra”. Dòng chữ ấy chẳng cứu được ai.
Ngô Việt không dừng lại ở việc chửi bới. Cô tiếp tục chất vấn: Chẳng lẽ nền tảng không biết tiền đi đâu sao? Chuyện này không tra ra được à?
Diễn viên Ôn Tranh Vanh cũng muốn hỏi điều đó. Từ tháng Tư năm nay, cô đồng thời xuất hiện trong vài phòng livestream; cùng một thời điểm, trang điểm và trang phục khác nhau, sản phẩm khác nhau, nhưng lại nói cùng một lời thoại. Cô xông vào phòng livestream hỏi người kia: “Cô là Ôn Tranh Vanh, vậy tôi là ai?” rồi lập tức bị chặn. Nguyên văn lời cô là: “Bây giờ tôi rất khó chứng minh tôi là chính tôi.”
Bên giới vận động viên thì cả nhà đều bị kéo vào. Trong thời gian Toàn Hồng Thiền dưỡng thương, một loạt tài khoản lấy tên “Trợ lý nhỏ của Thiền Bảo”, “Tài khoản phúc lợi của em Toàn” dùng giọng nói bị nhân bản để bán trứng gà ta; một đường dẫn sản phẩm đã bán được 47.000 món. Giọng nói của anh trai, mẹ và bố cô cũng bị nhân bản. Kẻ mạo danh dùng giọng anh trai để giới thiệu mật ong nhà mình, nói rằng đã chuẩn bị 2.000 đơn hàng. Gia đình lên tiếng đính chính, khẳng định chưa từng ủy quyền cho bất kỳ ai. Cuối tháng Chín, Cục Quản lý Không gian mạng khởi động chiến dịch “Thanh Lãng” kéo dài hai tháng; hành vi giả mạo người bằng AI nằm ở mục thứ ba trong danh sách chấn chỉnh. Nguyên văn ghi là “mạo danh người của công chúng, thực hiện quảng cáo chứng thực và tiếp thị giả mạo”. Vụ Ngô Việt thuộc đúng mục này.
Chi phí thì còn rõ ràng hơn. Phóng viên của Nhật báo Kinh tế Trung Quốc giả làm người mua để điều tra bí mật: một gương mặt người nổi tiếng có sẵn giá 1.280 nhân dân tệ, đặt làm riêng giá 1.980; mua từ ba chiếc trở lên thì mỗi chiếc 1.600. Người bán gương mặt nói riêng mình đã nhận gần 1.000 đơn, mấy chiếc máy chạy mỗi ngày đến tận 5 giờ sáng. Cách công nghệ này qua mặt hệ thống giám sát của nền tảng là chiếm quyền camera điện thoại; những gì nền tảng nhìn thấy đã là gương mặt bị thay đổi. Họ đã thử chụp mặt, bóp mũi, nhe răng, dùng vật lớn che khuất, nhưng không bị phát hiện. Diêu Hoan Khánh, Đại học Nhân dân Trung Quốc, cho rằng việc này có thể cấu thành tội cung cấp chương trình xâm nhập hệ thống thông tin máy tính.
Nhận định của tôi là AI đã kéo chi phí biên để làm điều xấu xuống còn 1.280 nhân dân tệ, trong khi chi phí biên để truy cứu trách nhiệm vẫn cao ngất ngưởng. Người nổi tiếng ít ra còn có thể tự lên tiếng để kịp thời giảm thiểu thiệt hại; còn những người tin video rồi đặt hàng thì biết tìm ai? Chẳng ai trả lời.
Những người ở lâu trong giới tiền mã hóa có trực giác về sổ cái. Một giao dịch trên chuỗi, từ địa chỉ nào chuyển đến địa chỉ nào, đều được công khai vĩnh viễn; ai cũng có thể tra cứu, không cần bất kỳ nền tảng nào gật đầu, cũng chẳng phụ thuộc tâm trạng của nền tảng hôm đó. Tiền từ những vụ lừa đảo bán hàng đi qua hệ thống thanh toán nội bộ của nền tảng; nền tảng biết rõ từng đồng đã đi đâu. Có tra hay không, có truy hay không, là lựa chọn của chính họ. Không phải tôi nói thế giới tiền mã hóa là thuốc giải; địa chỉ nhận tiền của kẻ lừa đảo cũng nằm trên chuỗi, mà đáng bị bắt thì vẫn phải bị bắt. Khác biệt chỉ là: câu trả lời ở bên này khắc trên đá, còn bên kia bị khóa trong ngăn kéo.
Tài khoản “chị Hoa” rốt cuộc đã lừa bao nhiêu người, bán được bao nhiêu tiền, nền tảng chưa công bố; tôi không rõ. Sau khi Ngô Việt đăng bài, tài khoản còn hoạt động hay không, lúc viết bài này tôi cũng chưa thấy thông báo nào.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #全红婵
Rạng sáng nay, diễn viên Ngô Việt đăng bài trên Weibo. Tôi tìm xem hết video mà cô ấy nêu đích danh. Vừa tỉnh giấc, đã thấy AI bị lợi dụng trắng trợn để mạo danh người khác và làm chuyện xấu. Trong video, cô ấy giới thiệu một sản phẩm dưỡng da, nói rằng chính mình đã thương lượng với nhà sản xuất, phối hợp tặng quà để tri ân những người hâm mộ lâu năm. Lời chào mời nối tiếp lời chào mời. Mua một tặng ba mươi. Qua hôm nay là không còn nữa. Còn rẻ hơn cả đợt khuyến mãi lớn. Không tốt thì cứ trả lại cho tôi. Mẹ bầu cũng dùng được. Tài khoản có tên “Nhật ký dưỡng da chị Hoa”; trong vài video khác còn có cảnh Đặng Á Bình bán hàng. Bên dưới video có một dòng chữ nhỏ: “Nội dung do AI tạo ra”. Dòng chữ ấy chẳng cứu được ai.
Ngô Việt không dừng lại ở việc chửi bới. Cô tiếp tục chất vấn: Chẳng lẽ nền tảng không biết tiền đi đâu sao? Chuyện này không tra ra được à?
Diễn viên Ôn Tranh Vanh cũng muốn hỏi điều đó. Từ tháng Tư năm nay, cô đồng thời xuất hiện trong vài phòng livestream; cùng một thời điểm, trang điểm và trang phục khác nhau, sản phẩm khác nhau, nhưng lại nói cùng một lời thoại. Cô xông vào phòng livestream hỏi người kia: “Cô là Ôn Tranh Vanh, vậy tôi là ai?” rồi lập tức bị chặn. Nguyên văn lời cô là: “Bây giờ tôi rất khó chứng minh tôi là chính tôi.”
Bên giới vận động viên thì cả nhà đều bị kéo vào. Trong thời gian Toàn Hồng Thiền dưỡng thương, một loạt tài khoản lấy tên “Trợ lý nhỏ của Thiền Bảo”, “Tài khoản phúc lợi của em Toàn” dùng giọng nói bị nhân bản để bán trứng gà ta; một đường dẫn sản phẩm đã bán được 47.000 món. Giọng nói của anh trai, mẹ và bố cô cũng bị nhân bản. Kẻ mạo danh dùng giọng anh trai để giới thiệu mật ong nhà mình, nói rằng đã chuẩn bị 2.000 đơn hàng. Gia đình lên tiếng đính chính, khẳng định chưa từng ủy quyền cho bất kỳ ai. Cuối tháng Chín, Cục Quản lý Không gian mạng khởi động chiến dịch “Thanh Lãng” kéo dài hai tháng; hành vi giả mạo người bằng AI nằm ở mục thứ ba trong danh sách chấn chỉnh. Nguyên văn ghi là “mạo danh người của công chúng, thực hiện quảng cáo chứng thực và tiếp thị giả mạo”. Vụ Ngô Việt thuộc đúng mục này.
Chi phí thì còn rõ ràng hơn. Phóng viên của Nhật báo Kinh tế Trung Quốc giả làm người mua để điều tra bí mật: một gương mặt người nổi tiếng có sẵn giá 1.280 nhân dân tệ, đặt làm riêng giá 1.980; mua từ ba chiếc trở lên thì mỗi chiếc 1.600. Người bán gương mặt nói riêng mình đã nhận gần 1.000 đơn, mấy chiếc máy chạy mỗi ngày đến tận 5 giờ sáng. Cách công nghệ này qua mặt hệ thống giám sát của nền tảng là chiếm quyền camera điện thoại; những gì nền tảng nhìn thấy đã là gương mặt bị thay đổi. Họ đã thử chụp mặt, bóp mũi, nhe răng, dùng vật lớn che khuất, nhưng không bị phát hiện. Diêu Hoan Khánh, Đại học Nhân dân Trung Quốc, cho rằng việc này có thể cấu thành tội cung cấp chương trình xâm nhập hệ thống thông tin máy tính.
Nhận định của tôi là AI đã kéo chi phí biên để làm điều xấu xuống còn 1.280 nhân dân tệ, trong khi chi phí biên để truy cứu trách nhiệm vẫn cao ngất ngưởng. Người nổi tiếng ít ra còn có thể tự lên tiếng để kịp thời giảm thiểu thiệt hại; còn những người tin video rồi đặt hàng thì biết tìm ai? Chẳng ai trả lời.
Những người ở lâu trong giới tiền mã hóa có trực giác về sổ cái. Một giao dịch trên chuỗi, từ địa chỉ nào chuyển đến địa chỉ nào, đều được công khai vĩnh viễn; ai cũng có thể tra cứu, không cần bất kỳ nền tảng nào gật đầu, cũng chẳng phụ thuộc tâm trạng của nền tảng hôm đó. Tiền từ những vụ lừa đảo bán hàng đi qua hệ thống thanh toán nội bộ của nền tảng; nền tảng biết rõ từng đồng đã đi đâu. Có tra hay không, có truy hay không, là lựa chọn của chính họ. Không phải tôi nói thế giới tiền mã hóa là thuốc giải; địa chỉ nhận tiền của kẻ lừa đảo cũng nằm trên chuỗi, mà đáng bị bắt thì vẫn phải bị bắt. Khác biệt chỉ là: câu trả lời ở bên này khắc trên đá, còn bên kia bị khóa trong ngăn kéo.
Tài khoản “chị Hoa” rốt cuộc đã lừa bao nhiêu người, bán được bao nhiêu tiền, nền tảng chưa công bố; tôi không rõ. Sau khi Ngô Việt đăng bài, tài khoản còn hoạt động hay không, lúc viết bài này tôi cũng chưa thấy thông báo nào.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #全红婵