Les victimes luttent alors que Google n’agit pas rapidement
Les signalements d’images et de vidéos intimes publiées en ligne sans consentement se multiplient, les deepfakes ajoutant une nouvelle dimension au problème. Début 2022, deux responsables politiques de Google ont rencontré des femmes victimes de l'arnaque GirlsDoPorn, où des vidéos explicites d'elles circulaient en ligne, notamment via les résultats de recherche Google.
Les femmes ont suggéré à Google d'utiliser un disque dur de 25 téraoctets contenant tous les épisodes de GirlsDoPorn pour créer un « hachage » de chaque clip et les bloquer des résultats de recherche. Cependant, deux ans plus tard, aucune de ces idées n’a été mise en œuvre et les vidéos continuent d’apparaître dans les résultats de recherche.
La réponse inadéquate de Google
Malgré les récents changements permettant aux survivants d’abus sexuels basés sur l’image de supprimer plus facilement les résultats de recherche indésirables, les victimes et les défenseurs sont frustrés par le manque d’action plus audacieuse de Google. Google a refusé d'adopter l'outil industriel StopNCII, qui partage des informations sur les images intimes non consensuelles (NCII), en raison de préoccupations concernant le contenu de la base de données.
En interne, les employés de Google ont suggéré des mesures plus strictes, comme exiger que les sites Web pour adultes vérifient le consentement, mais ces idées n'ont pas été adoptées. Un porte-parole de Google a déclaré que la lutte contre les images explicites non consensuelles (NCEI) reste une priorité et que les actions de l’entreprise vont au-delà de ce qui est légalement requis.
Cependant, des sources au sein de Google affirment que l’on pourrait faire davantage. Ils soulignent les restrictions plus strictes de Google sur les contenus pédopornographiques (CSAM) comme preuve que l’entreprise peut mettre en œuvre des mesures plus strictes pour le NCII.
Appels à des mesures proactives
Les défenseurs estiment que Google devrait prendre des mesures plus proactives pour protéger les victimes. Le Centre national sur l'exploitation sexuelle affirme que Google devrait automatiquement honorer toutes les demandes de retrait et exiger des sites Web qu'ils prouvent qu'ils ont consenti à enregistrer et à publier le contenu litigieux.
Les systèmes actuels de Google, qui tentent de supprimer automatiquement les liens de recherche lorsque le contenu précédemment signalé refait surface, présentent des limites. Le système connu de protection des victimes, conçu pour filtrer les résultats contenant des images explicites provenant de requêtes de recherche similaires, n'est pas infaillible.
Les victimes comme celles de l'arnaque GirlsDoPorn sont obligées de rester vigilantes, recherchant et signalant constamment les nouveaux téléchargements de leur NCII. Ce fardeau ne devrait pas incomber aux victimes, déclare Adam Dodge, fondateur du groupe de défense Ending Tech-Enabled Abuse. Il appelle Google à assumer davantage de responsabilités en identifiant et en supprimant de manière proactive les médias non consensuels.
Un appel à l'action
Les victimes et les défenseurs exhortent Google à adopter des mesures plus strictes pour lutter contre le problème croissant des images explicites non consensuelles. Bien que Google ait apporté quelques améliorations, telles que la mise à jour de ses formulaires et politiques de retrait, ces efforts sont considérés comme insuffisants.
Avec la montée en puissance des deepfakes générés par l’IA et l’augmentation des rapports NCII, la nécessité de mesures plus robustes et proactives est plus critique que jamais. Les victimes comptent sur Google pour prendre les mesures nécessaires pour garantir leur vie privée et leur sécurité, et pour mettre fin à la revictimisation provoquée par l'apparition continue de leurs images explicites en ligne.