Apple nâng cấp quy định xét duyệt App Store, siết chặt các ứng dụng dùng AI để hoán đổi khuôn mặt và cởi quần áo
Gần đây, Apple thông báo cập nhật Hướng dẫn xét duyệt App Store, áp dụng các biện pháp quản lý nghiêm ngặt hơn đối với hình ảnh riêng tư nhạy cảm do AI tạo ra mà không có sự đồng thuận. Trước đó, quy định của nền tảng đã cấm nội dung khiêu dâm lộ liễu; quy định mới còn yêu cầu nhà phát triển chủ động ngăn chặn, giám sát và xóa các nội dung deepfake do AI tạo ra thuộc loại này. Nếu không áp dụng các biện pháp hiệu quả, ứng dụng liên quan có thể bị gỡ khỏi App Store.
Trong điều khoản 1.2 được cập nhật, Apple lần đầu tiên nêu đích danh các nhóm ứng dụng liên quan đến việc tạo nội dung bằng AI. Động thái này được cho là có thể liên quan đến một số sản phẩm AI tạo sinh, trong đó có dịch vụ chatbot từng gây tranh cãi vì tạo ra nội dung deepfake khỏa thân và mang tính tình dục. Trước đó, Apple từng cảnh báo nhà phát triển liên quan rằng nếu ứng dụng tiếp tục cho phép tạo hình ảnh deepfake khỏa thân, ứng dụng có nguy cơ bị gỡ khỏi App Store. Sau đó, công ty này đã bổ sung các cơ chế bảo vệ an toàn tương ứng và được Apple chấp thuận phát hành phiên bản cập nhật.