Googleが迅速に対応できず、被害者は苦闘

同意なくインターネット上に投稿された性的な画像や動画に関する報告が増加しており、ディープフェイクが問題に新たな側面を加えている。2022年初頭、Googleのポリシー担当スタッフ2人がGirlsDoPorn詐欺の被害に遭った女性たちと面会した。この詐欺では、彼女たちの露骨な動画がGoogleの検索結果などを通じてインターネット上に出回っていた。

女性たちは、Google に GirlsDoPorn の全エピソードを収めた 25 テラバイトのハード ドライブを使って各クリップの「ハッシュ」を作成し、検索結果からブロックするよう提案した。しかし、2 年経った現在でも、これらのアイデアはどれも実行されておらず、動画は引き続き検索結果に表示されている。

Googleの不十分な対応

最近の変更により、画像による性的虐待の被害者が望まない検索結果をより簡単に削除できるようになったにもかかわらず、被害者や支援者は Google が大胆な行動を取らないことに不満を抱いている。Google は、データベースの内容に関する懸念から、同意のない親密な画像 (NCII) に関する情報を共有する業界ツール StopNCII の採用を拒否した。

グーグル社内では、アダルトサイトに同意の確認を求めるなど、より厳しい対策を提案しているが、これらの案は採用されていない。グーグルの広報担当者は、同意のない露骨な画像（NCEI）への対策は引き続き優先事項であり、同社の取り組みは法的に義務付けられている範囲を超えていると述べた。

しかし、Google 内部の情報筋は、もっとできることがあると主張している。彼らは、Google が児童性的虐待コンテンツ (CSAM) に対してより厳しい規制を設けていることを、同社が NCII に対してより厳しい措置を講じることができる証拠として指摘している。

積極的な対策を求める

擁護者たちは、グーグルは被害者を保護するためにもっと積極的な措置を講じるべきだと考えている。全米性的搾取センターは、グーグルはすべての削除要請を自動的に尊重し、問題となっているコンテンツの録画と公開に同意があったことを証明するようウェブサイトに要求すべきだと主張している。

グーグルの現在のシステムは、以前報告されたコンテンツが再び現れたときに検索リンクを自動的に削除しようとするが、限界がある。類似の検索クエリから露骨な画像を含む結果を除外するように設計された既知の被害者保護システムは、完璧ではない。

GirlsDoPorn 詐欺の被害者のような人たちは、常に警戒を怠らず、自分の NCII の新たなアップロードを常に探して報告しなければならない。この負担を被害者に負わせるべきではない、と擁護団体 Ending Tech-Enabled Abuse の創設者アダム・ドッジ氏は言う。同氏は、Google が積極的に非合意のメディアを特定し削除する責任をもっと負うよう求めている。

行動への呼びかけ

被害者や支援者たちは、合意のない露骨な画像の問題が拡大していることに対抗するため、Google 社に強力な対策を講じるよう求めている。Google 社は削除フォームやポリシーを更新するなど、いくつかの改善を行ってきたが、こうした取り組みは不十分だとみられている。

AI 生成のディープフェイクの増加と NCII の報告の増加により、より強力で積極的な対策の必要性がこれまで以上に高まっています。被害者は、プライバシーと安全を確保し、露骨な画像がオンラインで継続的に表示されることによる再被害を終わらせるために、Google が必要な措置を講じることを期待しています。