Apple hat seine Prüfregeln für den App Store erweitert und bezieht nun auch nicht einvernehmliche intime Bilder ein, die mithilfe von KI erstellt wurden. Apps mit solchen Inhalten können entfernt werden. Laut ChainCatcher müssen Entwickler proaktiv verhindern, dass KI-generierte Deepfakes verbreitet werden, und diese entfernen. Apps können aus dem Store genommen werden, wenn Entwickler nicht wirksam dagegen vorgehen.

Der aktualisierte Abschnitt 1.2 befasst sich ausdrücklich mit Apps zur Erstellung von KI-Inhalten und nennt umstrittene Produkte wie Grok. Nutzer hatten sich darüber beschwert, dass Grok, entwickelt von xAI, zur Erstellung von Nacktaufnahmen und sexuell anzüglichen Deepfake-Bildern verwendet wurde. Anfang dieses Jahres warnte Apple xAI, dass Grok aus dem App Store entfernt werden könnte, wenn solche Inhalte verbreitet werden dürften. xAI führte später Sicherheitsmaßnahmen ein, woraufhin eine aktualisierte Version der App genehmigt wurde.

Der neue Abschnitt 2.5.19 richtet sich gegen „Lockvogel“-Taktiken, bei denen Entwickler Funktionen oder Module in der zur Prüfung eingereichten Version verbergen und sie nach der Genehmigung aktivieren. Apps, die schädliche Funktionen wie das „Entkleiden“ ermöglichen, können sowohl aus dem App Store als auch aus dem Apple Developer Program entfernt werden. Die Aktualisierungen von Abschnitt 5 weiten das Verbot von Apps, die Menschenhandel oder die Ausbeutung von Kindern erleichtern, auch auf alternative App-Vertriebskanäle aus. Apple erklärte, dass es Apps entfernen und die Mitgliedschaft im Entwicklerprogramm beenden werde, wenn Entwickler gegen die Richtlinien verstoßen.