Apple verschärft die App-Store-Prüfrichtlinien und geht hart gegen KI-Pornografie, Face-Swapping und Entkleidungs-Apps vor
Apple hat kürzlich angekündigt, die App-Store-Prüfrichtlinien zu aktualisieren und strengere Maßnahmen gegen nicht einvernehmlich erstellte intime Bilder einzuführen, die mithilfe künstlicher Intelligenz generiert wurden. Explizite pornografische Inhalte waren auf der Plattform bereits verboten. Die neuen Regeln verlangen nun zusätzlich, dass Entwickler solche KI-generierten Deepfakes aktiv verhindern, überwachen und entfernen. Wenn Entwickler keine wirksamen Maßnahmen ergreifen, können die betreffenden Apps aus dem App Store entfernt werden.
In der aktualisierten Klausel 1.2 nennt Apple erstmals ausdrücklich die Kategorie von Apps, die KI-generierte Inhalte erstellen. Beobachter vermuten, dass dies mit bestimmten generativen KI-Produkten zusammenhängen könnte, darunter ein Chatbot-Dienst, der wegen der Erstellung von Nackt- und sexualisierten Deepfake-Inhalten in die Kritik geraten war. Zuvor hatte Apple die betreffenden Entwickler gewarnt, dass ihre Apps aus dem App Store entfernt werden könnten, wenn sie weiterhin die Erstellung von Nackt-Deepfakes erlaubten. Daraufhin ergänzte das Unternehmen entsprechende Schutzmechanismen und erhielt von Apple die Genehmigung, eine aktualisierte Version zu veröffentlichen.