Komisi Perlindungan Data Irlandia (DPC) telah memaksa X untuk berhenti melatih model-modelnya menggunakan data yang dikumpulkan oleh agen AI Grok Bot.
Ini adalah kali kedua dalam kurun waktu sekitar dua tahun regulator tersebut menghentikan aliran data yang digunakan untuk melatih Grok.
Kali pertama terjadi pada 2024, dan materi yang digunakan saat itu adalah unggahan publik milik pengguna di Uni Eropa. Kali ini, yang digunakan adalah informasi yang dikumpulkan Grok Bot, agen AI milik X, saat bertindak atas nama pengguna di berbagai aplikasi dan situs web.
Dari unggahan pengguna hingga informasi tentang orang lain yang dikumpulkan para agen
X menangguhkan pemrosesan setelah DPC menandai adanya “kekhawatiran serius” dalam beberapa pekan terakhir, menurut Komisaris Dale Sunderland.
Data pihak ketiga yang disebut-sebut itu telah ditambang oleh Grok Bot sejak akhir Oktober dan dimasukkan ke sistem pelatihan X.
“Kami meminta mereka menangguhkan pemrosesan, dan hari ini mereka telah mengonfirmasi kepada kami bahwa mereka sudah melakukannya,” kata Sunderland dalam wawancara pada Senin.
Sunderland, salah satu dari tiga komisioner bersama di badan tersebut, menjelaskan bahwa data pihak ketiga adalah informasi pribadi tentang seseorang yang tidak terkait dengan pengguna agen itu.
Ia memberi contoh untuk menegaskan maksudnya: foto liburan yang dibagikan seseorang kepada seorang teman, yang kemudian menjalankan agen AI. Cakupannya juga meliputi apa pun yang dikumpulkan agen dari internet terbuka.
Menurut Sunderland, regulator tidak keberatan dengan AI itu sendiri. Kekhawatiran mereka adalah apakah perusahaan di balik agen-agen ini mematuhi hukum setelah menggunakan data yang mereka kumpulkan untuk melatih model mereka.
Regulator yang pernah membawa Grok ke pengadilan
Pada 2024, DPC mendesak X untuk menghapus unggahan publik pengguna di Uni Eropa dan EEA dari pelatihan Grok. X setuju menangguhkan pemrosesan unggahan yang telah digunakannya antara 7 Mei dan 1 Agustus 2024, serta memberikan komitmen kepada Pengadilan Tinggi Irlandia.
Komisi tersebut secara resmi menutup kasus itu pada 4 September 2024, setelah X setuju untuk berhenti secara permanen. Ini adalah pertama kalinya DPC mengajukan perkara ke pengadilan untuk menghentikan praktik pengolahan data.
Namun, badan pengawas itu tidak berpuas diri pada tahun berikutnya. Mereka membuka penyelidikan terpisah terhadap X Internet Unlimited Company untuk menilai apakah pelatihan Grok menggunakan unggahan publik mematuhi GDPR.
DPC dapat mengenakan denda hingga 4% dari pendapatan global perusahaan, dan total denda yang pernah dijatuhkannya kepada Meta mendekati 3 miliar euro.
Irlandia adalah anggota Uni Eropa, dan ibu kotanya, Dublin, menjadi lokasi kantor pusat Eropa perusahaan teknologi besar, termasuk Apple, Google, Meta, OpenAI, dan X, serta perusahaan lainnya.
Mengingat posisinya di dalam blok tersebut, tindakan yang diambil regulatornya berdampak luas karena dapat menjadi acuan bagi seluruh blok.
Sunderland mengatakan DPC juga sedang berbicara dengan perusahaan teknologi lain yang tidak disebutkan namanya mengenai rencana untuk melatih model menggunakan data yang dikumpulkan agen. “Ini adalah isu yang sangat aktual saat ini,” katanya.
Agen yang masuk menggunakan akun Anda sudah mulai memicu perselisihan
Irlandia bukan satu-satunya pihak yang khawatir dengan kemampuan agen yang masuk atas nama pengguna. Perusahaan pun kini mewaspadai masalah ini. Amazon dilaporkan memblokir Grok Bot dari tokonya, dan berkas robots.txt Amazon memblokir agen yang terkait dengan Grok, ChatGPT, Claude, Copilot, Perplexity, Manus, serta perayap Google.
Amazon juga menggugat Perplexity, dengan tuduhan bahwa agen peramban Comet milik perusahaan itu diam-diam mengakses akun pelanggan yang bersifat pribadi. Perplexity membantah tuduhan tersebut.
DPC tidak menutup kemungkinan untuk berkomunikasi dengan X. Mereka menyatakan akan berdiskusi lebih lanjut dengan perusahaan itu mengenai apa yang terjadi dan langkah selanjutnya.
Jika Anda membaca ini, Anda sudah selangkah lebih maju. Teruslah mengikuti perkembangan lewat nawala kami.
