ChatGPT erstellt ein psychologisches Profil jedes Nutzers.
In der modernen digitalen Welt ist Personalisierung längst alltäglich geworden, doch das Gedächtnis von Chatbots hebt diesen Mechanismus auf eine neue Ebene. Chatbots erstellen detaillierte „digitale Porträts“ ihrer Nutzer, indem sie persönliche Informationen speichern, um eine möglichst personalisierte Kommunikation zu ermöglichen. Forschende warnen, dass eine solche Personalisierung eine ernsthafte Bedrohung für die Privatsphäre darstellt.
Internetdienste sammeln Nutzerdaten, um passende Werbung und Empfehlungen bereitzustellen. KI erhält persönliche Informationen direkt aus privaten Gesprächen, in denen Menschen selbst über sich erzählen. Für die Studie wurden Chatverläufe von 80 tatsächlichen ChatGPT-Nutzern ausgewertet. Sie erhielten ihre Daten auf Grundlage des europäischen Datenschutzgesetzes, das es ermöglicht, bei Unternehmen Auskunft über die eigenen Daten anzufordern. Dabei fanden die Autorinnen und Autoren 2050 Einträge im Gedächtnis des Chatbots, die mit den Interaktionen von 65 Nutzern zusammenhingen.
96 % der gespeicherten Erinnerungen legte ChatGPT eigenständig an, ohne dass die Nutzer daran beteiligt waren, denn die Menschen hatten praktisch keine Kontrolle darüber, welche Informationen das System während der Gespräche über sie speicherte. $ACT
In der modernen digitalen Welt ist Personalisierung längst alltäglich geworden, doch das Gedächtnis von Chatbots hebt diesen Mechanismus auf eine neue Ebene. Chatbots erstellen detaillierte „digitale Porträts“ ihrer Nutzer, indem sie persönliche Informationen speichern, um eine möglichst personalisierte Kommunikation zu ermöglichen. Forschende warnen, dass eine solche Personalisierung eine ernsthafte Bedrohung für die Privatsphäre darstellt.
Internetdienste sammeln Nutzerdaten, um passende Werbung und Empfehlungen bereitzustellen. KI erhält persönliche Informationen direkt aus privaten Gesprächen, in denen Menschen selbst über sich erzählen. Für die Studie wurden Chatverläufe von 80 tatsächlichen ChatGPT-Nutzern ausgewertet. Sie erhielten ihre Daten auf Grundlage des europäischen Datenschutzgesetzes, das es ermöglicht, bei Unternehmen Auskunft über die eigenen Daten anzufordern. Dabei fanden die Autorinnen und Autoren 2050 Einträge im Gedächtnis des Chatbots, die mit den Interaktionen von 65 Nutzern zusammenhingen.
96 % der gespeicherten Erinnerungen legte ChatGPT eigenständig an, ohne dass die Nutzer daran beteiligt waren, denn die Menschen hatten praktisch keine Kontrolle darüber, welche Informationen das System während der Gespräche über sie speicherte. $ACT
