A Apple ampliou as regras de análise da App Store para abranger imagens íntimas não consensuais geradas por IA, e os apps que contenham esse tipo de conteúdo estão sujeitos à remoção. Segundo a ChainCatcher, os desenvolvedores devem prevenir proativamente e remover deepfakes gerados por IA; os apps podem ser retirados do ar se os desenvolvedores não agirem de forma eficaz.

A Seção 1.2 atualizada aborda especificamente apps de criação de conteúdo com IA e cita produtos controversos, como o Grok. Usuários haviam reclamado que o Grok, desenvolvido pela xAI, era usado para criar imagens deepfake de nudez e sexualmente sugestivas. No início deste ano, a Apple alertou a xAI que o Grok poderia ser removido da App Store caso esse tipo de conteúdo pudesse se disseminar. Mais tarde, a xAI introduziu medidas de segurança e, depois disso, uma versão atualizada do app foi aprovada.

A nova Seção 2.5.19 aborda táticas de «isca e troca», nas quais os desenvolvedores ocultam recursos ou módulos da versão enviada para análise e os ativam após a aprovação. Os apps que habilitam funções prejudiciais, como «despir» pessoas, podem ser removidos tanto da App Store quanto do Apple Developer Program. As atualizações da Seção 5 também estendem a proibição de apps que facilitam o tráfico de pessoas ou a exploração infantil aos canais alternativos de distribuição de apps. A Apple afirmou que removerá os apps e encerrará a associação dos desenvolvedores ao programa quando eles violarem as diretrizes.