Oběti bojují, protože Google nedokáže rychle jednat
Počet zpráv o intimních obrázcích a videích zveřejněných online bez souhlasu přibývá, přičemž deepfakes dodávají problému nový rozměr. Začátkem roku 2022 se dva zaměstnanci společnosti Google setkali se ženami, které se staly oběťmi podvodu GirlsDoPorn, kde se jejich explicitní videa šířila online, a to i prostřednictvím výsledků vyhledávání Google.
Ženy navrhly, aby Google použil 25terabajtový pevný disk obsahující všechny epizody GirlsDoPorn, aby vytvořil „hash“ každého klipu a zablokoval je ve výsledcích vyhledávání. O dva roky později však žádný z těchto nápadů nebyl realizován a videa se nadále objevují ve výsledcích vyhledávání.
Neadekvátní reakce společnosti Google
Navzdory nedávným změnám, které obětem sexuálního zneužívání založeného na obrázcích umožnily snadněji odstranit nechtěné výsledky vyhledávání, jsou oběti a obhájci frustrováni nedostatkem odvážnějších akcí společnosti Google. Google odmítl přijmout průmyslový nástroj StopNCII, který sdílí informace o nekonsensuálních intimních snímcích (NCII), kvůli obavám o obsah databáze.
Interně zaměstnanci společnosti Google navrhli přísnější opatření, jako je požadavek, aby webové stránky pro dospělé ověřovaly souhlas, ale tyto nápady nebyly přijaty. Mluvčí společnosti Google uvedl, že boj proti nekonsenzuálním explicitním snímkům (NCEI) zůstává prioritou a že akce společnosti jdou nad rámec toho, co je zákonem požadováno.
Zdroje z Googlu však tvrdí, že by se dalo udělat více. Poukazují na přísnější omezení společnosti Google týkající se materiálů týkajících se sexuálního zneužívání dětí (CSAM) jako důkaz, že společnost může zavést přísnější opatření pro NCII.
Vyzývá k proaktivním opatřením
Obhájci se domnívají, že Google by měl podniknout proaktivnější kroky k ochraně obětí. Národní centrum pro sexuální vykořisťování tvrdí, že Google by měl automaticky respektovat všechny žádosti o zastavení šíření a vyžadovat, aby webové stránky prokázaly souhlas se záznamem a zveřejněním sporného obsahu.
Současné systémy Google, které se pokoušejí automaticky odstranit vyhledávací odkazy, když se znovu objeví dříve nahlášený obsah, mají omezení. Známý systém ochrany obětí, navržený tak, aby filtroval výsledky s explicitními obrázky z podobných vyhledávacích dotazů, není spolehlivý.
Oběti, jako jsou oběti podvodu GirlsDoPorn, jsou nuceny zůstat ostražité, neustále vyhledávat a hlásit nová nahrání svých NCII. Toto břemeno by nemělo dopadat na oběti, říká Adam Dodge, zakladatel advokátní skupiny Ending Tech-Enabled Abuse. Vyzývá k tomu, aby Google převzal větší odpovědnost za proaktivní identifikaci a odstraňování nekonsensuálních médií.
Výzva k akci
Oběti a obhájci naléhají na Google, aby přijal přísnější opatření v boji proti rostoucímu problému nekonsensuálních explicitních obrázků. Přestože společnost Google provedla určitá vylepšení, například aktualizovala své formuláře a zásady pro zastavení šíření, tyto snahy jsou považovány za nedostatečné.
S nárůstem deepfakes generovaných umělou inteligencí a rostoucími zprávami o NCII je potřeba robustnějších a proaktivnějších opatření kritičtější než kdy jindy. Oběti spoléhají na to, že společnost Google podnikne nezbytné kroky k zajištění jejich soukromí a bezpečnosti a ukončí opakovanou viktimizaci způsobenou neustálým objevováním jejich explicitních obrázků online.