ChatGPT складає психологічний профіль кожного користувача.
У сучасному цифровому світі персоналізація вже давно стала звичним явищем, але пам’ять чат-ботів виводить цей механізм на новий рівень.Чат-боти створюють детальні "цифрові портрети" своїх користувачів, запам’ятовуючи особисту інформацію заради максимально персоналізованого спілкування. Дослідники попереджають, що така персоналізація становить серйозну загрозу конфіденційності.
Інтернет-сервіси збирають дані про користувачів для відповідної реклами та рекомендації. ШІ отримує особисті відомості безпосередньо з приватних розмов, у яких люди самі розповідають про себе. Для дослідження використали архіви листувань 80 реальних користувачів ChatGPT. Вони отримали свої дані завдяки європейському закону про захист персональних даних, який дозволяє запитувати у компаній відомості про себе. У результаті автори виявили 2050 записів у пам’яті чат-бота, пов’язаних із взаємодіями 65 користувачів.
96 % збережених спогадів ChatGPT створював самостійно, без користувачів, бо люди практично не контролювали, які саме відомості про них система запам’ятовувала під час спілкування. $ACT
У сучасному цифровому світі персоналізація вже давно стала звичним явищем, але пам’ять чат-ботів виводить цей механізм на новий рівень.Чат-боти створюють детальні "цифрові портрети" своїх користувачів, запам’ятовуючи особисту інформацію заради максимально персоналізованого спілкування. Дослідники попереджають, що така персоналізація становить серйозну загрозу конфіденційності.
Інтернет-сервіси збирають дані про користувачів для відповідної реклами та рекомендації. ШІ отримує особисті відомості безпосередньо з приватних розмов, у яких люди самі розповідають про себе. Для дослідження використали архіви листувань 80 реальних користувачів ChatGPT. Вони отримали свої дані завдяки європейському закону про захист персональних даних, який дозволяє запитувати у компаній відомості про себе. У результаті автори виявили 2050 записів у пам’яті чат-бота, пов’язаних із взаємодіями 65 користувачів.
96 % збережених спогадів ChatGPT створював самостійно, без користувачів, бо люди практично не контролювали, які саме відомості про них система запам’ятовувала під час спілкування. $ACT
