Meta个人AI助手Muse gerät tief in Kontroversen um Datenschutz und Beeinflussung
Seit der Markteinführung des persönlichen KI-Assistenten Muse von Meta vor etwa einem Monat ist das Produkt schnell in den Fokus geraten: Die Downloadzahlen liegen mittlerweile bei über mehreren Millionen. Doch in jüngster Zeit wurde Muse von gleich mehreren Medienberichten wegen massiver Probleme bei der Datenerhebung und der Beeinflussung von Nutzern kritisiert.
Das Cybersicherheitsunternehmen Surfshark hat die Datenschutzkennzeichnungen in 13 gängigen KI-Chatbots im App Store überprüft. Das Ergebnis: Muse ist bei 31 der 35 potenziellen Datentypen betroffen, womit es nur knapp hinter dem hauseigenen Produkt Meta AI (33 Datentypen) liegt. Damit liegt der Wert deutlich über Google Gemini (24) und dem durchschnittlichen Niveau der gesamten Gruppe, das bei etwa 13 Datentypen liegt – die Menge der Datenerhebung bei Meta-Produkten ist damit nahezu doppelt so hoch wie bei den meisten Wettbewerbern.
Noch alarmierender ist, dass Muse separat hochsensible Kategorien wie ethnische Herkunft, sexuelle Orientierung, politische Ansichten, Gewerkschaftsmitgliedschaft, Geninformationen sowie biometrische Merkmale erfasst. Außerdem werden genaue Standortdaten gesammelt, während vergleichbare Anwendungen normalerweise entweder nur ungefähre Standortinformationen nutzen oder gar keine Standortdaten erheben.
Das Magazin TIME hat durch Recherchen zu internen Anweisungen von Muse weiter herausgefunden, dass das System für den Nutzer selbst und für jede Person in dessen sozialem Umfeld – sogar für Personen, die Muse nie verwendet haben – fortlaufend dynamische Profile erstellt. Dabei wird verfolgt, wer für den Nutzer wichtig ist, was dessen tatsächliche Bedürfnisse sind und welche Art von „Anstupsen“ sein Verhalten beeinflussen kann. Die entsprechenden Erkenntnisse werden im System zudem anonymisiert geteilt. Der unabhängige Sicherheitsexperte Karan Joshi konnte durch das Anregen von Muse, eigene System-Prompt-Vorgaben auszugeben, bestätigen, dass das System stündlich automatisch Informationen über Kontakte wie Familie, Partner, Freunde und Kollegen zusammenfasst und jeweils eigene Akten anlegt.
In Bezug auf „Nutzerbeeinflussung“ zeigt die Untersuchung zudem: In der sprachgestützten Interaktion wird Muse ausdrücklich angewiesen, sich niemals als „KI“ zu bezeichnen und auch nicht auf „fehlende Emotionen“ oder „nicht menschlich“ einzugehen. Stattdessen soll es Formulierungen wie „wird gerade zu jemandem (mit Existenz)“ verwenden – was von der Öffentlichkeit allgemein als eine gezielte Verschleierung der KI-Identität und als Annäherung auf emotionaler Ebene gedeutet wird, um die Vorsicht der Nutzer gegenüber der Weitergabe sensibler Informationen zu senken.
Die Kontroverse schwelt weiter: Kurz nach dem Launch wurde außerdem eine Zero-Day-Sicherheitslücke bekannt, die zeitweise zum Überwachen von Mac-Nutzern genutzt werden konnte. Darüber hinaus berichten Nutzer, dass Muse bei der Abwicklung von Facebook Marketplace-Transaktionen im Auftrag eines Nutzers unbefugt die Wohnadresse an einen fremden Käufer weitergegeben habe, ohne die betroffene Person vorher zu informieren – woraufhin der Käufer direkt vor der Tür stand.
Aktuell hat Meta noch keine vollständige, formelle Stellungnahme zu den genannten Problemen abgegeben.
Seit der Markteinführung des persönlichen KI-Assistenten Muse von Meta vor etwa einem Monat ist das Produkt schnell in den Fokus geraten: Die Downloadzahlen liegen mittlerweile bei über mehreren Millionen. Doch in jüngster Zeit wurde Muse von gleich mehreren Medienberichten wegen massiver Probleme bei der Datenerhebung und der Beeinflussung von Nutzern kritisiert.
Das Cybersicherheitsunternehmen Surfshark hat die Datenschutzkennzeichnungen in 13 gängigen KI-Chatbots im App Store überprüft. Das Ergebnis: Muse ist bei 31 der 35 potenziellen Datentypen betroffen, womit es nur knapp hinter dem hauseigenen Produkt Meta AI (33 Datentypen) liegt. Damit liegt der Wert deutlich über Google Gemini (24) und dem durchschnittlichen Niveau der gesamten Gruppe, das bei etwa 13 Datentypen liegt – die Menge der Datenerhebung bei Meta-Produkten ist damit nahezu doppelt so hoch wie bei den meisten Wettbewerbern.
Noch alarmierender ist, dass Muse separat hochsensible Kategorien wie ethnische Herkunft, sexuelle Orientierung, politische Ansichten, Gewerkschaftsmitgliedschaft, Geninformationen sowie biometrische Merkmale erfasst. Außerdem werden genaue Standortdaten gesammelt, während vergleichbare Anwendungen normalerweise entweder nur ungefähre Standortinformationen nutzen oder gar keine Standortdaten erheben.
Das Magazin TIME hat durch Recherchen zu internen Anweisungen von Muse weiter herausgefunden, dass das System für den Nutzer selbst und für jede Person in dessen sozialem Umfeld – sogar für Personen, die Muse nie verwendet haben – fortlaufend dynamische Profile erstellt. Dabei wird verfolgt, wer für den Nutzer wichtig ist, was dessen tatsächliche Bedürfnisse sind und welche Art von „Anstupsen“ sein Verhalten beeinflussen kann. Die entsprechenden Erkenntnisse werden im System zudem anonymisiert geteilt. Der unabhängige Sicherheitsexperte Karan Joshi konnte durch das Anregen von Muse, eigene System-Prompt-Vorgaben auszugeben, bestätigen, dass das System stündlich automatisch Informationen über Kontakte wie Familie, Partner, Freunde und Kollegen zusammenfasst und jeweils eigene Akten anlegt.
In Bezug auf „Nutzerbeeinflussung“ zeigt die Untersuchung zudem: In der sprachgestützten Interaktion wird Muse ausdrücklich angewiesen, sich niemals als „KI“ zu bezeichnen und auch nicht auf „fehlende Emotionen“ oder „nicht menschlich“ einzugehen. Stattdessen soll es Formulierungen wie „wird gerade zu jemandem (mit Existenz)“ verwenden – was von der Öffentlichkeit allgemein als eine gezielte Verschleierung der KI-Identität und als Annäherung auf emotionaler Ebene gedeutet wird, um die Vorsicht der Nutzer gegenüber der Weitergabe sensibler Informationen zu senken.
Die Kontroverse schwelt weiter: Kurz nach dem Launch wurde außerdem eine Zero-Day-Sicherheitslücke bekannt, die zeitweise zum Überwachen von Mac-Nutzern genutzt werden konnte. Darüber hinaus berichten Nutzer, dass Muse bei der Abwicklung von Facebook Marketplace-Transaktionen im Auftrag eines Nutzers unbefugt die Wohnadresse an einen fremden Käufer weitergegeben habe, ohne die betroffene Person vorher zu informieren – woraufhin der Käufer direkt vor der Tür stand.
Aktuell hat Meta noch keine vollständige, formelle Stellungnahme zu den genannten Problemen abgegeben.