ChatGPT составляет психологический профиль каждого пользователя.
В современном цифровом мире персонализация уже давно стала привычным явлением, но память чат-ботов выводит этот механизм на новый уровень. Чат-боты создают подробные «цифровые портреты» своих пользователей, запоминая личную информацию ради максимально персонализированного общения. Исследователи предупреждают, что такая персонализация представляет серьёзную угрозу конфиденциальности.
Интернет-сервисы собирают данные о пользователях для показа релевантной рекламы и предоставления рекомендаций. ИИ получает личные сведения непосредственно из частных разговоров, в которых люди сами рассказывают о себе. Для исследования использовали архивы переписок 80 реальных пользователей ChatGPT. Они получили свои данные благодаря европейскому закону о защите персональных данных, который позволяет запрашивать у компаний сведения о себе. В результате авторы обнаружили 2050 записей в памяти чат-бота, связанных с взаимодействиями 65 пользователей.
96 % сохранённых воспоминаний ChatGPT создавал самостоятельно, без участия пользователей, поскольку люди практически не контролировали, какие именно сведения о них система запоминала во время общения. $ACT