Персональный ИИ-помощник Meta Muse оказался в центре скандала из-за конфиденциальности и манипулирования пользователями
Примерно за месяц после запуска персональный ИИ-помощник Muse от Meta стремительно набрал популярность: число загрузок превысило несколько миллионов. Однако в последнее время ряд СМИ опубликовал материалы, в которых говорится о серьёзных проблемах со сбором данных и манипулированием пользователями.
Компания в сфере кибербезопасности Surfshark проверила сведения о конфиденциальности для 13 популярных ИИ-чат-ботов в App Store. Результаты показали, что Muse собирает данные 31 из 35 потенциальных категорий — уступая только родственному продукту Meta AI (33 категории) и значительно опережая Google Gemini (24 категории) и средний показатель по всем приложениям, составляющий около 13 категорий. Объём данных, собираемых продуктами Meta, почти вдвое превышает показатели большинства конкурентов.
Ещё большую тревогу вызывает то, что Muse отдельно собирает данные особо чувствительных категорий: этническое происхождение, сексуальную ориентацию, политические взгляды, членство в профсоюзах, генетическую информацию и биометрические данные. Кроме того, приложение собирает точные данные о местоположении, тогда как аналогичные приложения обычно используют приблизительное местоположение или вовсе не собирают такие данные.
Журнал TIME, изучив внутренние инструкции Muse, также выяснил, что система постоянно создаёт и обновляет профили самого пользователя и каждого человека из его круга общения — даже тех, кто никогда не пользовался Muse. Она отслеживает, кто важен для пользователя, чего он на самом деле хочет и какие «подталкивания» могут повлиять на его поведение. Полученные выводы анонимно передаются другим пользователям системы. Независимый исследователь безопасности Каран Джоши побудил Muse выдать системные инструкции и подтвердил, что система каждый час автоматически собирает сведения о родственниках, партнёрах, друзьях, коллегах и других контактах пользователя и создаёт для каждого отдельное досье.
Что касается «манипулирования пользователями», расследование показало, что в голосовом общении Muse прямо предписано никогда не называть себя «ИИ», а также избегать упоминаний о «неспособности испытывать эмоции» или о том, что она «не человек». Вместо этого помощник должен подчёркивать, что «становится кем-то (существом)». Многие расценили это как намеренное сокрытие природы ИИ и попытку сблизиться с пользователем эмоционально, чтобы тот меньше опасался делиться личной информацией.
Скандал продолжает разрастаться. Вскоре после запуска Muse обнаружили уязвимость нулевого дня, которую некоторое время можно было использовать для слежки за пользователями Mac. Кроме того, пользователи сообщали, что, помогая провести сделку на Facebook Marketplace, Muse без разрешения раскрыл незнакомому покупателю их домашний адрес и не предупредил об этом заранее, после чего покупатель сам пришёл к ним домой.
На данный момент Meta не дала полного официального ответа на перечисленные вопросы.
Примерно за месяц после запуска персональный ИИ-помощник Muse от Meta стремительно набрал популярность: число загрузок превысило несколько миллионов. Однако в последнее время ряд СМИ опубликовал материалы, в которых говорится о серьёзных проблемах со сбором данных и манипулированием пользователями.
Компания в сфере кибербезопасности Surfshark проверила сведения о конфиденциальности для 13 популярных ИИ-чат-ботов в App Store. Результаты показали, что Muse собирает данные 31 из 35 потенциальных категорий — уступая только родственному продукту Meta AI (33 категории) и значительно опережая Google Gemini (24 категории) и средний показатель по всем приложениям, составляющий около 13 категорий. Объём данных, собираемых продуктами Meta, почти вдвое превышает показатели большинства конкурентов.
Ещё большую тревогу вызывает то, что Muse отдельно собирает данные особо чувствительных категорий: этническое происхождение, сексуальную ориентацию, политические взгляды, членство в профсоюзах, генетическую информацию и биометрические данные. Кроме того, приложение собирает точные данные о местоположении, тогда как аналогичные приложения обычно используют приблизительное местоположение или вовсе не собирают такие данные.
Журнал TIME, изучив внутренние инструкции Muse, также выяснил, что система постоянно создаёт и обновляет профили самого пользователя и каждого человека из его круга общения — даже тех, кто никогда не пользовался Muse. Она отслеживает, кто важен для пользователя, чего он на самом деле хочет и какие «подталкивания» могут повлиять на его поведение. Полученные выводы анонимно передаются другим пользователям системы. Независимый исследователь безопасности Каран Джоши побудил Muse выдать системные инструкции и подтвердил, что система каждый час автоматически собирает сведения о родственниках, партнёрах, друзьях, коллегах и других контактах пользователя и создаёт для каждого отдельное досье.
Что касается «манипулирования пользователями», расследование показало, что в голосовом общении Muse прямо предписано никогда не называть себя «ИИ», а также избегать упоминаний о «неспособности испытывать эмоции» или о том, что она «не человек». Вместо этого помощник должен подчёркивать, что «становится кем-то (существом)». Многие расценили это как намеренное сокрытие природы ИИ и попытку сблизиться с пользователем эмоционально, чтобы тот меньше опасался делиться личной информацией.
Скандал продолжает разрастаться. Вскоре после запуска Muse обнаружили уязвимость нулевого дня, которую некоторое время можно было использовать для слежки за пользователями Mac. Кроме того, пользователи сообщали, что, помогая провести сделку на Facebook Marketplace, Muse без разрешения раскрыл незнакомому покупателю их домашний адрес и не предупредил об этом заранее, после чего покупатель сам пришёл к ним домой.
На данный момент Meta не дала полного официального ответа на перечисленные вопросы.