Korban Berjuang karena Google Gagal Bertindak Cepat

Laporan tentang gambar dan video intim yang diunggah secara daring tanpa izin terus meningkat, dengan deepfake menambah dimensi baru pada masalah ini. Pada awal tahun 2022, dua staf kebijakan Google bertemu dengan perempuan yang menjadi korban penipuan GirlsDoPorn, di mana video eksplisit mereka beredar daring, termasuk melalui hasil penelusuran Google.

Para wanita tersebut menyarankan Google menggunakan hard drive 25 terabyte yang berisi semua episode GirlsDoPorn untuk membuat "hash" dari setiap klip dan memblokirnya dari hasil pencarian. Namun, dua tahun kemudian, tidak satu pun dari ide ini yang diterapkan, dan video tersebut terus muncul di hasil pencarian.

Respon Google yang Tidak Memadai

Meskipun ada perubahan terkini yang memungkinkan korban pelecehan seksual berbasis gambar untuk lebih mudah menghapus hasil pencarian yang tidak diinginkan, para korban dan advokat merasa frustrasi dengan kurangnya tindakan yang lebih berani dari Google. Google telah menolak untuk mengadopsi alat industri StopNCII, yang membagikan informasi tentang citra intim nonkonsensual (NCII), karena kekhawatiran tentang konten basis data tersebut.

Secara internal, karyawan Google telah menyarankan langkah-langkah yang lebih ketat, seperti mewajibkan situs web dewasa untuk memverifikasi persetujuan, tetapi ide-ide ini belum diadopsi. Seorang juru bicara Google menyatakan bahwa memerangi citra eksplisit nonkonsensual (NCEI) tetap menjadi prioritas dan bahwa tindakan perusahaan melampaui apa yang diwajibkan secara hukum.

Namun, sumber di Google berpendapat bahwa masih banyak yang bisa dilakukan. Mereka menunjuk pada pembatasan Google yang lebih ketat terhadap materi pelecehan seksual anak (CSAM) sebagai bukti bahwa perusahaan dapat menerapkan langkah-langkah yang lebih ketat untuk NCII.

Seruan untuk Tindakan Proaktif

Para pendukung percaya bahwa Google harus mengambil langkah-langkah yang lebih proaktif untuk melindungi para korban. National Center on Sexual Exploitation berpendapat bahwa Google harus secara otomatis menghormati semua permintaan penghapusan dan mengharuskan situs web untuk membuktikan adanya persetujuan untuk merekam dan menerbitkan konten yang disengketakan.

Sistem Google saat ini, yang berupaya menghapus tautan pencarian secara otomatis saat konten yang dilaporkan sebelumnya muncul kembali, memiliki keterbatasan. Sistem perlindungan korban yang dikenal, yang dirancang untuk menyaring hasil dengan gambar eksplisit dari kueri pencarian serupa, tidak sepenuhnya aman.

Korban seperti penipuan GirlsDoPorn dipaksa untuk tetap waspada, terus mencari dan melaporkan unggahan baru NCII mereka. Beban ini seharusnya tidak ditanggung oleh korban, kata Adam Dodge, pendiri kelompok advokasi Ending Tech-Enabled Abuse. Ia meminta Google untuk mengambil lebih banyak tanggung jawab dalam mengidentifikasi dan menghapus media nonkonsensual secara proaktif.

Panggilan untuk Bertindak

Para korban dan pendukung mendesak Google untuk mengambil langkah-langkah yang lebih kuat guna memerangi masalah gambar eksplisit nonkonsensual yang semakin meningkat. Meskipun Google telah melakukan beberapa perbaikan, seperti memperbarui formulir dan kebijakan penghapusan, upaya ini dianggap tidak memadai.

Dengan maraknya deepfake yang dihasilkan AI dan meningkatnya laporan tentang NCII, kebutuhan akan tindakan yang lebih kuat dan proaktif menjadi lebih penting dari sebelumnya. Para korban mengandalkan Google untuk mengambil langkah-langkah yang diperlukan guna memastikan privasi dan keselamatan mereka, dan untuk mengakhiri viktimisasi ulang yang disebabkan oleh kemunculan terus-menerus gambar eksplisit mereka secara daring.