Apple ha ampliado las normas de revisión de su App Store para incluir imágenes íntimas no consentidas generadas por IA; las apps que contengan este tipo de contenido podrán ser eliminadas. Según ChainCatcher, los desarrolladores deben prevenir y eliminar de forma proactiva los deepfakes generados por IA; las apps podrán retirarse si los desarrolladores no actúan de manera eficaz.
La Sección 1.2 actualizada aborda específicamente las apps de creación de contenido con IA y menciona productos controvertidos como Grok. Los usuarios se habían quejado de que Grok, desarrollado por xAI, se utilizaba para crear imágenes deepfake de desnudos y con contenido sexual sugerente. A principios de este año, Apple advirtió a xAI que Grok podría ser eliminado de la App Store si se permitía la difusión de este tipo de contenido. Más tarde, xAI introdujo medidas de seguridad, tras lo cual se aprobó una versión actualizada de la app.
La nueva sección 2.5.19 aborda las tácticas de «señuelo y cambio», mediante las cuales los desarrolladores ocultan funciones o módulos en la versión enviada para revisión y los activan después de su aprobación. Las apps que habiliten funciones dañinas, como «quitar la ropa», podrían retirarse tanto del App Store como del Apple Developer Program. Las actualizaciones de la sección 5 también amplían la prohibición de las apps que facilitan la trata de personas o la explotación infantil a los canales alternativos de distribución de apps. Apple indicó que retirará las apps y cancelará la membresía de desarrollador cuando estos infrinjan las directrices.