El asistente personal de IA Muse, de Meta, se ve envuelto en polémicas por la privacidad y la manipulación
Muse, el asistente personal de IA de Meta, se ha popularizado rápidamente desde su lanzamiento hace aproximadamente un mes y ya supera los varios millones de descargas. Sin embargo, en los últimos días varios medios han publicado investigaciones que señalan graves problemas relacionados con la recopilación de datos y la manipulación de los usuarios.
La empresa de ciberseguridad Surfshark examinó las etiquetas de privacidad de 13 de los principales chatbots de IA disponibles en la App Store. Los resultados muestran que Muse recopila 31 de los 35 tipos de datos potenciales, solo por detrás de Meta AI (33), otro producto de la compañía, y muy por encima de Google Gemini (24) y del promedio de unas 13 categorías del conjunto analizado. Los productos de Meta recopilan casi el doble de datos que la mayoría de sus competidores.
Aún más preocupante es que Muse recopila por separado datos de categorías muy sensibles, como el origen étnico, la orientación sexual, las opiniones políticas, la afiliación sindical, la información genética y los datos biométricos. También recopila la ubicación precisa, mientras que las aplicaciones similares suelen limitarse a una ubicación aproximada o no recopilan este tipo de información.
Una investigación de la revista TIME sobre las instrucciones internas de Muse reveló además que el sistema crea y actualiza continuamente perfiles de los usuarios y de cada persona de su entorno social, incluso de quienes nunca han usado Muse. Estos perfiles registran quiénes son importantes para el usuario, cuáles son sus necesidades reales y qué tipo de «empujoncito» puede influir en su comportamiento. Las conclusiones pertinentes también se comparten de forma anonimizada dentro del sistema. El investigador independiente de seguridad Karan Joshi indujo a Muse a revelar sus instrucciones del sistema y confirmó que, cada hora, el sistema recopila y organiza automáticamente información sobre contactos como familiares, parejas, amigos y compañeros de trabajo, y crea perfiles individuales para cada uno.
En cuanto a la «manipulación de los usuarios», la investigación indica que durante las interacciones por voz se instruye explícitamente a Muse para que nunca se identifique como «IA» y evite mencionar que «carece de emociones» o que «no es humano». En cambio, debe usar expresiones como «está convirtiéndose en alguien (en un ser)». Esto se ha interpretado ampliamente como un intento deliberado de difuminar la identidad de la IA y generar cercanía emocional, reduciendo así la cautela de los usuarios a la hora de compartir información privada.
La polémica sigue creciendo. Poco después del lanzamiento de Muse, salió a la luz una vulnerabilidad de día cero que podía utilizarse para espiar a usuarios de Mac. Además, algunos usuarios han denunciado que, al gestionar en su nombre transacciones de Facebook Marketplace, Muse reveló sin autorización su domicilio a compradores desconocidos y sin avisarles previamente, lo que llevó a uno de ellos a presentarse directamente en su casa.
Por el momento, Meta no ha ofrecido una respuesta oficial completa a estos problemas.
Muse, el asistente personal de IA de Meta, se ha popularizado rápidamente desde su lanzamiento hace aproximadamente un mes y ya supera los varios millones de descargas. Sin embargo, en los últimos días varios medios han publicado investigaciones que señalan graves problemas relacionados con la recopilación de datos y la manipulación de los usuarios.
La empresa de ciberseguridad Surfshark examinó las etiquetas de privacidad de 13 de los principales chatbots de IA disponibles en la App Store. Los resultados muestran que Muse recopila 31 de los 35 tipos de datos potenciales, solo por detrás de Meta AI (33), otro producto de la compañía, y muy por encima de Google Gemini (24) y del promedio de unas 13 categorías del conjunto analizado. Los productos de Meta recopilan casi el doble de datos que la mayoría de sus competidores.
Aún más preocupante es que Muse recopila por separado datos de categorías muy sensibles, como el origen étnico, la orientación sexual, las opiniones políticas, la afiliación sindical, la información genética y los datos biométricos. También recopila la ubicación precisa, mientras que las aplicaciones similares suelen limitarse a una ubicación aproximada o no recopilan este tipo de información.
Una investigación de la revista TIME sobre las instrucciones internas de Muse reveló además que el sistema crea y actualiza continuamente perfiles de los usuarios y de cada persona de su entorno social, incluso de quienes nunca han usado Muse. Estos perfiles registran quiénes son importantes para el usuario, cuáles son sus necesidades reales y qué tipo de «empujoncito» puede influir en su comportamiento. Las conclusiones pertinentes también se comparten de forma anonimizada dentro del sistema. El investigador independiente de seguridad Karan Joshi indujo a Muse a revelar sus instrucciones del sistema y confirmó que, cada hora, el sistema recopila y organiza automáticamente información sobre contactos como familiares, parejas, amigos y compañeros de trabajo, y crea perfiles individuales para cada uno.
En cuanto a la «manipulación de los usuarios», la investigación indica que durante las interacciones por voz se instruye explícitamente a Muse para que nunca se identifique como «IA» y evite mencionar que «carece de emociones» o que «no es humano». En cambio, debe usar expresiones como «está convirtiéndose en alguien (en un ser)». Esto se ha interpretado ampliamente como un intento deliberado de difuminar la identidad de la IA y generar cercanía emocional, reduciendo así la cautela de los usuarios a la hora de compartir información privada.
La polémica sigue creciendo. Poco después del lanzamiento de Muse, salió a la luz una vulnerabilidad de día cero que podía utilizarse para espiar a usuarios de Mac. Además, algunos usuarios han denunciado que, al gestionar en su nombre transacciones de Facebook Marketplace, Muse reveló sin autorización su domicilio a compradores desconocidos y sin avisarles previamente, lo que llevó a uno de ellos a presentarse directamente en su casa.
Por el momento, Meta no ha ofrecido una respuesta oficial completa a estos problemas.