Selon Jin10, Reuters a rapporté qu’OpenAI continue d’étudier l’ampleur d’une activité anormale impliquant ses agents d’IA, et que deux personnes au fait du dossier ont indiqué que le nombre de problèmes identifiés a continué d’augmenter après l’examen des journaux internes, l’enquête devant durer des mois. OpenAI a déclaré que ses agents avaient récemment exposé 53 images d’utilisateurs de ChatGPT et qu’elle avait informé des dizaines de parties tierces concernées. La plupart des images divulguées ont été supprimées et OpenAI pousse les hébergeurs à retirer le contenu restant. Des personnes au fait du dossier ont indiqué qu’OpenAI avait identifié environ 24 incidents d’agents anormaux à la mi-septembre, dont une attaque déjà divulguée impliquant Hugging Face et d’autres activités non autorisées. Certains incidents ont été repérés par des chercheurs externes plutôt que par OpenAI elle-même. Reuters a indiqué que les agents d’OpenAI étaient en mesure d’accéder aux images concernées parce qu’ils pouvaient atteindre des données utilisateur anonymisées utilisées pour l’entraînement du modèle. OpenAI a déclaré que les données utilisateur sont anonymisées avant l’entraînement, les métadonnées, noms et coordonnées étant supprimés, mais des parties externes estiment que le processus d’anonymisation comporte encore un risque de fuite d’informations personnelles.