ChatGPT dresse un profil psychologique de chaque utilisateur.
Dans le monde numérique actuel, la personnalisation est depuis longtemps devenue monnaie courante, mais la mémoire des chatbots fait passer ce mécanisme à un niveau supérieur. Les chatbots créent des « portraits numériques » détaillés de leurs utilisateurs en mémorisant des informations personnelles afin de proposer des échanges aussi personnalisés que possible. Des chercheurs avertissent que cette personnalisation constitue une grave menace pour la confidentialité.
Les services Internet collectent des données sur les utilisateurs pour leur proposer des publicités et des recommandations pertinentes. L’IA obtient des informations personnelles directement à partir de conversations privées, au cours desquelles les gens parlent d’eux-mêmes. Pour cette étude, les chercheurs ont utilisé les archives de conversations de 80 véritables utilisateurs de ChatGPT. Ceux-ci ont obtenu leurs données grâce à la législation européenne sur la protection des données personnelles, qui permet de demander aux entreprises les informations qu’elles détiennent sur soi. Au final, les auteurs ont découvert 2 050 enregistrements dans la mémoire du chatbot, associés aux interactions de 65 utilisateurs.
ChatGPT avait créé 96 % des souvenirs enregistrés de sa propre initiative, sans intervention des utilisateurs, car ceux-ci ne contrôlaient pratiquement pas quelles informations les concernant le système mémorisait au fil des échanges. $ACT