Jerman telah memperingatkan platform media sosial tentang penyebaran gambar holokaus AI yang salah. Pemerintah dan lembaga peringatan Holokaus telah meminta platform media sosial untuk menghentikan penyebaran gambar palsu, yang mereka klaim telah mendistorsi dan memperkecil sejarah.
Kekhawatiran diungkapkan oleh situs peringatan kamp konsentrasi dan pusat dokumentasi dalam sebuah surat baru-baru ini, mengkritik lonjakan yang disebut sebagai sampah AI atau gambar yang dipalsukan, sekitar pembunuhan lebih dari enam juta Yahudi di Jerman selama Perang Dunia II. Gambar-gambar ini termasuk ilustrasi emosional dari insiden yang diciptakan, seperti pertemuan antara tahanan kamp konsentrasi dan pembebas mereka atau anak-anak di belakang pagar kawat berduri.
Jerman ingin menghentikan penyebaran gambar holocaust AI yang salah
Dalam surat yang dikirim oleh organisasi-organisasi, mereka mencatat bahwa konten yang dihasilkan AI mendistorsi sejarah dengan meremehkan peristiwa serius yang terjadi lama sekali. Mereka menyebutkan bahwa gambar-gambar semacam itu dapat membantu menimbulkan ketidakpercayaan di antara pengguna dokumen sejarah yang otentik. Wolfram Weimer, menteri negara Jerman untuk budaya dan media, menyebutkan bahwa dia mendukung langkah-langkah dan upaya yang diambil oleh lembaga peringatan dalam kasus ini, mengungkapkan bahwa ini adalah langkah yang tepat untuk diambil.
Wolfram juga menyebutkan bahwa dia mendukung keputusan mereka untuk memiliki gambar yang dihasilkan AI dari insiden kuno yang ditandai dan, dalam kasus yang diperlukan, dihapus dari platform media sosial. Dia menyebutkan bahwa ini adalah masalah penghormatan bagi jutaan orang yang dibunuh dan dianiaya di bawah rezim teror Nazi Jerman. Menurut surat lembaga peringatan, mereka mencatat bahwa pencipta gambar tersebut tampaknya menggunakannya untuk menarik perhatian secara online dan menghasilkan uang.
Organisasi-organisasi juga menyebutkan bahwa para pelaku juga sebagian bermaksud untuk mengencerkan fakta, mengubah peran korban dan pelaku, dan menyebarkan narasi revisi. Lembaga-lembaga tersebut termasuk pusat peringatan untuk Belsen, Buchenwald, Dachau, dan kamp konsentrasi lainnya di mana orang-orang Yahudi, serta lainnya, termasuk orang Roma dan Sinti, dibunuh. Mereka meminta platform media sosial untuk bergerak secara proaktif melawan gambar AI palsu seputar Holocaust daripada menunggu pengguna melaporkannya.
Organisasi Holocaust ingin gambar yang dihasilkan AI diberi label
Selain itu, mereka meminta platform untuk memberi label dengan jelas, karena mereka percaya hal itu akan mencegah pengguna yang menghasilkan gambar tersebut untuk dapat memonetisasinya. Penyebaran AI slop berkualitas rendah, yang mencakup teks, gambar, atau video palsu, telah menimbulkan alarm di antara banyak ahli. Mereka percaya hal itu akan mencemari lanskap informasi dan menyulitkan pengguna untuk memisahkan kebenaran dari kebohongan. Insiden ini mengikuti yang dihadapi oleh perusahaan AI, terutama xAI milik Elon Musk, yang memiliki chatbot Grok.
Perusahaan telah berada di bawah tekanan selama beberapa minggu terakhir terkait dengan sejumlah pengguna yang menghasilkan ribuan gambar deepfake seksualisasi wanita dan anak di bawah umur dan menyebarkannya di berbagai platform media sosial. Ancaman ini telah membuat beberapa pemimpin negara meminta perusahaan untuk bertindak, dengan yang lain meminta mereka untuk mengembangkan langkah-langkah perlindungan yang tepat untuk menangani insiden tersebut. Negara-negara seperti Indonesia juga telah mengumumkan larangan sementara pada chatbot sampai semua masalah diselesaikan.
Sementara itu, platform tersebut telah mengonfirmasi bahwa mereka akan memblokir kemampuan pengguna Grok dan X untuk menghasilkan deepfake orang di lokasi di mana tindakan tersebut dianggap ilegal. Namun, masih harus dilihat apakah langkah-langkah baru ini akan berlaku untuk aplikasi mandirinya atau situs webnya. Juga masih harus dilihat apakah tindakan tersebut akan menghentikan pengguna dari menghasilkan jenis gambar ini atau akan mendorong mereka untuk mencari cara baru untuk mengakses layanan.
Pikiran kripto paling cerdas sudah membaca buletin kami. Mau bergabung? Bergabunglah dengan mereka.