Apple renforce les règles d’examen de l’App Store et sévit contre les applications d’IA qui créent des deepfakes pornographiques ou déshabillent des personnes
Apple a récemment annoncé la mise à jour de ses directives d’examen de l’App Store, avec des mesures de contrôle plus strictes contre les images intimes non consenties générées par l’intelligence artificielle. Les règles de la plateforme interdisaient déjà les contenus pornographiques explicites. Les nouvelles dispositions exigent en outre des développeurs qu’ils préviennent activement la création de ce type de deepfakes générés par l’IA, qu’ils les détectent et les suppriment. Les applications concernées pourraient être retirées de l’App Store si leurs développeurs ne prennent pas de mesures efficaces.
Dans la clause 1.2 révisée, Apple cite pour la première fois explicitement les catégories d’applications qui génèrent du contenu par IA. Selon certains observateurs, cette mesure pourrait viser certains produits d’IA générative, notamment un service de chatbot qui avait suscité la controverse en générant des deepfakes dénudés et à caractère sexuel. Auparavant, Apple avait averti les développeurs concernés que leurs applications risquaient d’être retirées de l’App Store si elles continuaient à permettre la création d’images deepfake de personnes dénudées. L’entreprise a ensuite ajouté des mécanismes de protection adaptés et obtenu l’approbation d’Apple pour publier une version mise à jour.