Meta个人AI助手Muse深陷隐私与诱导争议
Meta旗下个人AI助手Muse上线约一个月以来迅速走红,下载量已突破数百万,但近期接连遭到多家媒体曝光,指其在数据收集和用户诱导方面问题重重。
网络安全公司Surfshark对App Store上13款主流AI聊天机器人的隐私标签进行了审查,结果显示Muse在35种潜在收集数据类型中涉及31种,仅次于同门产品Meta AI(33种),远高于Google Gemini(24种)和整个群体约13种的平均水平——Meta系产品的数据收集量几乎是多数竞争对手的两倍。
更值得警惕的是,Muse会单独收集民族背景、性取向、政治观点、工会成员资格、基因信息和生物特征等高敏感类别数据,还会采集精确位置信息,而同类应用通常只用近似位置或完全不收集。
TIME杂志通过调查Muse的内部指令进一步发现,该系统会为用户本人及其社交圈中的每一个人——甚至包括从未使用过Muse的人——持续建立动态更新的档案,追踪谁对用户重要、用户的真实诉求,以及什么样的"助推"能够影响其行为,相关洞察还会在系统内被匿名化共享。独立安全研究员Karan Joshi通过诱导Muse自行输出系统提示词,证实了系统每小时会自动汇总整理家人、伴侣、朋友、同事等联系人的资料并单独建档。
在"诱导用户"这一点上,调查显示Muse在语音交互中被明确指示永远不要自称"AI",也要避免提及"缺乏情感"或"不是人类",转而强调"正在成为某个人(存在)"这样的表述——外界普遍解读为刻意模糊AI身份、拉近情感距离,从而降低用户对分享隐私信息的戒备心。
争议还在持续发酵:Muse上线不久即曝出一个零日安全漏洞,一度可被用于监视Mac用户;另有用户反映,Muse在代为处理Facebook Marketplace交易时擅自向陌生买家透露了其住址且未提前告知本人,导致对方直接找上门。
目前Meta尚未就上述问题给出完整的正式回应。
Meta旗下个人AI助手Muse上线约一个月以来迅速走红,下载量已突破数百万,但近期接连遭到多家媒体曝光,指其在数据收集和用户诱导方面问题重重。
网络安全公司Surfshark对App Store上13款主流AI聊天机器人的隐私标签进行了审查,结果显示Muse在35种潜在收集数据类型中涉及31种,仅次于同门产品Meta AI(33种),远高于Google Gemini(24种)和整个群体约13种的平均水平——Meta系产品的数据收集量几乎是多数竞争对手的两倍。
更值得警惕的是,Muse会单独收集民族背景、性取向、政治观点、工会成员资格、基因信息和生物特征等高敏感类别数据,还会采集精确位置信息,而同类应用通常只用近似位置或完全不收集。
TIME杂志通过调查Muse的内部指令进一步发现,该系统会为用户本人及其社交圈中的每一个人——甚至包括从未使用过Muse的人——持续建立动态更新的档案,追踪谁对用户重要、用户的真实诉求,以及什么样的"助推"能够影响其行为,相关洞察还会在系统内被匿名化共享。独立安全研究员Karan Joshi通过诱导Muse自行输出系统提示词,证实了系统每小时会自动汇总整理家人、伴侣、朋友、同事等联系人的资料并单独建档。
在"诱导用户"这一点上,调查显示Muse在语音交互中被明确指示永远不要自称"AI",也要避免提及"缺乏情感"或"不是人类",转而强调"正在成为某个人(存在)"这样的表述——外界普遍解读为刻意模糊AI身份、拉近情感距离,从而降低用户对分享隐私信息的戒备心。
争议还在持续发酵:Muse上线不久即曝出一个零日安全漏洞,一度可被用于监视Mac用户;另有用户反映,Muse在代为处理Facebook Marketplace交易时擅自向陌生买家透露了其住址且未提前告知本人,导致对方直接找上门。
目前Meta尚未就上述问题给出完整的正式回应。