Seorang hakim federal telah mempertahankan larangan Minnesota terhadap alat AI yang dapat mengubah foto orang nyata menjadi gambar dan media telanjang, menolak upaya xAI milik Elon Musk untuk menghentikan undang-undang tersebut sementara gugatan kebebasan berekspresi perusahaan itu berjalan. Putusan ini memungkinkan regulator segera memulai denda hingga $500.000 per gambar.

Hakim Distrik AS Donovan Frank menolak permintaan xAI untuk perintah pendahuluan, yaitu perintah yang akan menangguhkan undang-undang itu sampai akhir persidangan. Hakim Donovan mempertimbangkan apa yang ia sebut “keseimbangan kerugian,” dan menemukan bahwa “kepentingan publik jelas lebih berpihak pada Negara Bagian,” menurut memorandum yang dikutip CBS Minnesota.

Hakim menggambarkannya sebagai “undang-undang sipil yang bertujuan melindungi publik dari bahaya yang tak terbantahkan yang timbul dari teknologi AI-nudification,” dan mengatakan bahwa undang-undang itu disahkan “secara demokratis dan hampir dengan suara bulat.” Ia terus terang bahwa pertanyaan-pertanyaan Amandemen Pertama yang mendasarinya masih kompleks, bagaimanapun, karena konteks teknologi baru, dan meyakini bahwa kasus ini akan diselesaikan seiring berjalannya proses. Untuk saat ini, larangan tersebut tetap ditegakkan.

Pengajuan di menit-menit terakhir melemahkan kasus xAI

Legislatif Minnesota menyetujui RUU tersebut pada musim semi ini, dan gubernur menambahkan tanda tangannya. Namun, xAI tidak mengajukan gugatan sampai 27 Juli, sekitar tiga bulan kemudian dan beberapa hari sebelum tanggal mulai 1 Agustus. Perusahaan AI itu meminta perintah penahanan sementara pada 29 Juli, yang kemudian ditolak oleh Hakim Frank pada 31 Juli.

Kesenjangan ini menjadi bukti lebih lanjut yang merugikan xAI. “Jika xAI benar-benar khawatir akan kerugian yang tidak dapat dipulihkan, Pengadilan tidak meragukan bahwa mereka akan bertindak lebih cepat untuk mengajukan perkara ini dan meminta bantuan injungsi,” tulis Frank.

Dengan kata lain, sebuah perusahaan yang berlomba menghindari bencana tidak menunggu hingga menjelang penegakan untuk meminta bantuan pengadilan.

Cakupan undang-undang dan biayanya

Undang-undang tersebut, yang dikenal sebagai HF 1606, adalah yang pertama di seluruh negara. Undang-undang ini melarang penyedia membiarkan pengguna menghasilkan gambar realistis yang menambahkan bagian tubuh intim yang tidak ada pada foto asli dari seseorang yang dapat diidentifikasi, dan juga melarang mereka menghasilkan gambar semacam itu atas nama pengguna mana pun.

Setiap pelanggaran membawa denda perdata hingga $500.000, dan orang-orang yang digambarkan dalam gambar-gambar ini dapat mengajukan klaim ganti rugi mereka masing-masing.

Undang-undang federal Take It Down Act dan pendekatan Texas tahun 2025 terhadap deepfake semuanya bergantung pada apakah pembuatnya mengetahui bahwa gambar tersebut dibuat tanpa persetujuan. Minnesota sepenuhnya menghapus persyaratan itu, sehingga penyedia dapat dimintai pertanggungjawaban bahkan tanpa mengetahui bahwa gambar telanjang telah dibuat.

Ketentuan dalam undang-undang ini adalah area yang secara langsung ditentang xAI. RUU itu lolos di DPR dengan suara 132-1 dan di Senat 65-0 setelah laporan tentang seorang pria yang menggunakan foto media sosial untuk memalsukan gambar seksual lebih dari 80 wanita yang dikenalnya.

Skala di balik Grok Imagine

Jaksa Agung Keith Ellison, yang membela undang-undang yang telah ditandatangani itu, menyatakan bahwa putusan tersebut merupakan kemenangan bagi warga Minnesota. “Saya sangat bangga membela undang-undang ini, dan bersamanya, martabat জনগña Minnesota,” katanya, sambil menambahkan bahwa undang-undang itu terus mencegah produk seperti Grok Imagine milik xAI menghasilkan gambar yang bersifat seksual.

Menurut laporan yang dirujuk dalam putusan itu, Grok menghasilkan sekitar 3 juta gambar seksual dalam 11 hari setelah fitur pengeditan gambar baru diluncurkan, termasuk sekitar 23.000 yang tampaknya menggambarkan anak-anak. Cryptopolitan sebelumnya melaporkan bahwa xAI, dalam pembelaan atas rekam jejaknya, mengatakan telah menangguhkan 52.222 akun tahun ini dan mengajukan 73.604 laporan ke National Center for Missing and Exploited Children.

Pengacara xAI kini telah mengajukan pemberitahuan bahwa mereka akan meminta Pengadilan Banding Sirkuit ke-8 untuk meninjau penolakan atas perintah injungsi tersebut. Dalam argumen sebelumnya, perusahaan itu mengusulkan penangguhan fitur bagi pengguna Minnesota alih-alih mengambil risiko denda apa pun.

Pikiran kripto paling cerdas sudah membaca buletin kami. Tertarik? Bergabunglah dengan mereka.