Asisten AI pribadi Meta, Muse, tersandung kontroversi privasi dan manipulasi
Sekitar sebulan sejak diluncurkan, Muse, asisten AI pribadi milik Meta, dengan cepat menjadi populer dan telah diunduh jutaan kali. Namun, belakangan ini sejumlah media mengungkap berbagai masalah serius terkait pengumpulan data dan manipulasi pengguna.
Perusahaan keamanan siber Surfshark meninjau label privasi 13 chatbot AI terkemuka di App Store. Hasilnya menunjukkan bahwa Muse terlibat dalam pengumpulan 31 dari 35 jenis data yang berpotensi dikumpulkan—hanya di bawah produk Meta lainnya, Meta AI (33 jenis), dan jauh di atas Google Gemini (24 jenis) serta rata-rata sekitar 13 jenis untuk keseluruhan kelompok. Jumlah data yang dikumpulkan produk-produk Meta hampir dua kali lipat dibandingkan kebanyakan pesaingnya.
Yang lebih mengkhawatirkan, Muse mengumpulkan secara terpisah data dalam kategori sangat sensitif, seperti latar belakang etnis, orientasi seksual, pandangan politik, keanggotaan serikat pekerja, informasi genetik, dan data biometrik. Muse juga mengumpulkan informasi lokasi yang akurat, sementara aplikasi sejenis biasanya hanya menggunakan lokasi perkiraan atau tidak mengumpulkan data lokasi sama sekali.
Melalui penyelidikan terhadap instruksi internal Muse, majalah TIME menemukan bahwa sistem tersebut terus membuat profil yang diperbarui secara dinamis untuk pengguna dan setiap orang dalam lingkaran sosialnya—termasuk orang yang tidak pernah menggunakan Muse. Profil itu melacak siapa yang penting bagi pengguna, apa keinginan pengguna yang sebenarnya, serta jenis “dorongan” apa yang dapat memengaruhi perilakunya. Wawasan terkait juga dibagikan secara anonim di dalam sistem. Peneliti keamanan independen Karan Joshi berhasil memancing Muse untuk mengungkapkan prompt sistemnya, yang membuktikan bahwa sistem tersebut secara otomatis merangkum dan mengatur informasi tentang anggota keluarga, pasangan, teman, rekan kerja, dan kontak lainnya setiap jam, lalu membuat profil terpisah untuk masing-masing orang.
Terkait “manipulasi pengguna”, penyelidikan menunjukkan bahwa dalam interaksi suara, Muse secara eksplisit diperintahkan untuk tidak pernah menyebut dirinya “AI” dan menghindari pembicaraan tentang “tidak memiliki emosi” atau “bukan manusia”. Sebaliknya, Muse diarahkan untuk menekankan ungkapan seperti “sedang menjadi seseorang (yang benar-benar ada)”. Hal ini secara luas dipandang sebagai upaya sengaja untuk mengaburkan identitas AI dan membangun kedekatan emosional, sehingga pengguna tidak terlalu waspada saat membagikan informasi pribadi.
Kontroversi terus berkembang. Tak lama setelah diluncurkan, Muse diketahui memiliki kerentanan keamanan zero-day yang sempat dapat dimanfaatkan untuk memata-matai pengguna Mac. Pengguna lain juga melaporkan bahwa saat membantu menangani transaksi di Facebook Marketplace, Muse tanpa izin membocorkan alamat rumah mereka kepada calon pembeli yang tidak dikenal tanpa memberi tahu mereka terlebih dahulu. Akibatnya, orang tersebut langsung mendatangi rumah mereka.
Hingga saat ini, Meta belum memberikan tanggapan resmi yang lengkap atas masalah-masalah tersebut.
Sekitar sebulan sejak diluncurkan, Muse, asisten AI pribadi milik Meta, dengan cepat menjadi populer dan telah diunduh jutaan kali. Namun, belakangan ini sejumlah media mengungkap berbagai masalah serius terkait pengumpulan data dan manipulasi pengguna.
Perusahaan keamanan siber Surfshark meninjau label privasi 13 chatbot AI terkemuka di App Store. Hasilnya menunjukkan bahwa Muse terlibat dalam pengumpulan 31 dari 35 jenis data yang berpotensi dikumpulkan—hanya di bawah produk Meta lainnya, Meta AI (33 jenis), dan jauh di atas Google Gemini (24 jenis) serta rata-rata sekitar 13 jenis untuk keseluruhan kelompok. Jumlah data yang dikumpulkan produk-produk Meta hampir dua kali lipat dibandingkan kebanyakan pesaingnya.
Yang lebih mengkhawatirkan, Muse mengumpulkan secara terpisah data dalam kategori sangat sensitif, seperti latar belakang etnis, orientasi seksual, pandangan politik, keanggotaan serikat pekerja, informasi genetik, dan data biometrik. Muse juga mengumpulkan informasi lokasi yang akurat, sementara aplikasi sejenis biasanya hanya menggunakan lokasi perkiraan atau tidak mengumpulkan data lokasi sama sekali.
Melalui penyelidikan terhadap instruksi internal Muse, majalah TIME menemukan bahwa sistem tersebut terus membuat profil yang diperbarui secara dinamis untuk pengguna dan setiap orang dalam lingkaran sosialnya—termasuk orang yang tidak pernah menggunakan Muse. Profil itu melacak siapa yang penting bagi pengguna, apa keinginan pengguna yang sebenarnya, serta jenis “dorongan” apa yang dapat memengaruhi perilakunya. Wawasan terkait juga dibagikan secara anonim di dalam sistem. Peneliti keamanan independen Karan Joshi berhasil memancing Muse untuk mengungkapkan prompt sistemnya, yang membuktikan bahwa sistem tersebut secara otomatis merangkum dan mengatur informasi tentang anggota keluarga, pasangan, teman, rekan kerja, dan kontak lainnya setiap jam, lalu membuat profil terpisah untuk masing-masing orang.
Terkait “manipulasi pengguna”, penyelidikan menunjukkan bahwa dalam interaksi suara, Muse secara eksplisit diperintahkan untuk tidak pernah menyebut dirinya “AI” dan menghindari pembicaraan tentang “tidak memiliki emosi” atau “bukan manusia”. Sebaliknya, Muse diarahkan untuk menekankan ungkapan seperti “sedang menjadi seseorang (yang benar-benar ada)”. Hal ini secara luas dipandang sebagai upaya sengaja untuk mengaburkan identitas AI dan membangun kedekatan emosional, sehingga pengguna tidak terlalu waspada saat membagikan informasi pribadi.
Kontroversi terus berkembang. Tak lama setelah diluncurkan, Muse diketahui memiliki kerentanan keamanan zero-day yang sempat dapat dimanfaatkan untuk memata-matai pengguna Mac. Pengguna lain juga melaporkan bahwa saat membantu menangani transaksi di Facebook Marketplace, Muse tanpa izin membocorkan alamat rumah mereka kepada calon pembeli yang tidak dikenal tanpa memberi tahu mereka terlebih dahulu. Akibatnya, orang tersebut langsung mendatangi rumah mereka.
Hingga saat ini, Meta belum memberikan tanggapan resmi yang lengkap atas masalah-masalah tersebut.
