Apple atualiza as regras de revisão da App Store e endurece o combate a deepfakes pornográficos e aplicativos de remoção de roupas com IA
A Apple anunciou recentemente uma atualização das diretrizes de revisão da App Store, com medidas mais rigorosas contra imagens íntimas não consensuais geradas por inteligência artificial. As regras da plataforma já proibiam conteúdo pornográfico explícito, mas as novas disposições também exigem que os desenvolvedores tomem medidas proativas para prevenir, monitorar e remover esse tipo de conteúdo deepfake gerado por IA. Se não adotarem medidas eficazes, os aplicativos em questão poderão ser removidos da App Store.
Na cláusula 1.2 atualizada, a Apple mencionou pela primeira vez de forma explícita as categorias de aplicativos que envolvem a geração de conteúdo por IA. A medida é vista por observadores como possivelmente relacionada a alguns produtos de IA generativa, entre eles um serviço de chatbot que já gerou controvérsia por produzir conteúdo deepfake com nudez e sexualizado. Anteriormente, a Apple havia alertado os desenvolvedores envolvidos de que, se os aplicativos continuassem permitindo a geração de imagens deepfake com nudez, corriam o risco de ser removidos da App Store. Em seguida, a empresa acrescentou mecanismos de segurança correspondentes e obteve a aprovação da Apple para lançar uma versão atualizada.