O ChatGPT cria um perfil psicológico de cada usuário.
No mundo digital atual, a personalização já se tornou algo corriqueiro, mas a memória dos chatbots leva esse mecanismo a um novo patamar. Os chatbots criam “retratos digitais” detalhados de seus usuários, lembrando informações pessoais para oferecer interações o mais personalizadas possível. Pesquisadores alertam que essa personalização representa uma séria ameaça à privacidade.
Os serviços de internet coletam dados dos usuários para exibir anúncios relevantes e fazer recomendações. A IA obtém informações pessoais diretamente de conversas privadas, nas quais as próprias pessoas falam sobre si. Para o estudo, foram usados arquivos de conversas de 80 usuários reais do ChatGPT. Eles obtiveram seus dados graças à legislação europeia de proteção de dados pessoais, que permite solicitar às empresas informações sobre si. Como resultado, os autores encontraram 2050 registros na memória do chatbot relacionados às interações de 65 usuários.
96% das lembranças armazenadas pelo ChatGPT foram criadas pelo próprio sistema, sem a participação dos usuários, pois as pessoas praticamente não controlavam quais informações sobre elas o sistema guardava durante as conversas. $ACT
No mundo digital atual, a personalização já se tornou algo corriqueiro, mas a memória dos chatbots leva esse mecanismo a um novo patamar. Os chatbots criam “retratos digitais” detalhados de seus usuários, lembrando informações pessoais para oferecer interações o mais personalizadas possível. Pesquisadores alertam que essa personalização representa uma séria ameaça à privacidade.
Os serviços de internet coletam dados dos usuários para exibir anúncios relevantes e fazer recomendações. A IA obtém informações pessoais diretamente de conversas privadas, nas quais as próprias pessoas falam sobre si. Para o estudo, foram usados arquivos de conversas de 80 usuários reais do ChatGPT. Eles obtiveram seus dados graças à legislação europeia de proteção de dados pessoais, que permite solicitar às empresas informações sobre si. Como resultado, os autores encontraram 2050 registros na memória do chatbot relacionados às interações de 65 usuários.
96% das lembranças armazenadas pelo ChatGPT foram criadas pelo próprio sistema, sem a participação dos usuários, pois as pessoas praticamente não controlavam quais informações sobre elas o sistema guardava durante as conversas. $ACT
