Apple memperbarui aturan peninjauan App Store, perketat pengawasan terhadap aplikasi AI untuk membuat deepfake seksual dan menanggalkan pakaian
Apple baru-baru ini mengumumkan pembaruan Pedoman Peninjauan App Store, dengan menerapkan langkah yang lebih ketat terhadap gambar intim nonkonsensual yang dihasilkan oleh kecerdasan buatan. Aturan platform sebelumnya telah melarang konten pornografi eksplisit. Ketentuan terbaru kini juga mewajibkan pengembang untuk secara aktif mencegah, memantau, dan menghapus konten deepfake buatan AI semacam itu. Jika pengembang tidak mengambil langkah yang efektif, aplikasi terkait dapat dihapus dari App Store.
Dalam ketentuan 1.2 yang diperbarui, Apple untuk pertama kalinya secara tegas menyebut kategori aplikasi yang melibatkan pembuatan konten AI. Langkah ini dianggap oleh sejumlah pihak mungkin berkaitan dengan beberapa produk AI generatif, termasuk layanan chatbot yang sebelumnya menuai kontroversi karena menghasilkan konten deepfake telanjang dan seksual. Sebelumnya, Apple telah memperingatkan pengembang terkait bahwa aplikasi mereka berisiko dihapus dari App Store jika terus mengizinkan pembuatan gambar deepfake telanjang. Setelah itu, perusahaan tersebut menambahkan mekanisme perlindungan keamanan yang sesuai dan memperoleh persetujuan Apple untuk merilis versi terbaru.