Pada Rabu, pengadilan banding federal AS mempertimbangkan permintaan xAI untuk memblokir undang-undang California tentang pengungkapan data pelatihan AI. Dalam sidang tersebut, para hakim di Pengadilan Banding Sirkuit ke-9 yang berkedudukan di San Francisco tampak tidak yakin dengan argumen konstitusional perusahaan itu, meski mereka juga mendesak para pengacara negara bagian menjelaskan seberapa banyak informasi yang dapat diwajibkan California untuk diserahkan oleh perusahaan AI.

Disahkan sebagai bagian dari upaya California yang lebih luas untuk mengawasi AI, undang-undang transparansi tersebut mewajibkan pembuat AI generatif untuk membagikan kepada publik ringkasan data pelatihan mereka. Sejauh ini, xAI berpendapat bahwa undang-undang itu melanggar hak kebebasan berbicaranya berdasarkan Amandemen Pertama dan memaksanya mengungkapkan detail rahasia tentang cara model-modelnya dilatih.

Argumen xAI berpusat pada pertanyaan apakah kewajiban bagi perusahaan untuk memublikasikan informasi tentang proses pelatihan mereka merupakan bentuk pemaksaan untuk berbicara. Amendemen Pertama umumnya melindungi individu dan perusahaan dari pembatasan pemerintah atas kebebasan berekspresi, tetapi juga memunculkan pertanyaan tentang kapan pihak berwenang dapat mewajibkan pengungkapan informasi.

Bagi para pengembang AI, sengketa ini menyangkut keseimbangan antara transparansi dan perlindungan rahasia dagang serta teknologi eksklusif. Putusan yang berpihak pada California dapat mempersulit para pengembang untuk menentang persyaratan pengungkapan serupa di negara bagian lain.

Hakim Rawlinson mengatakan xAI perlu menunjukkan bahwa undang-undang transparansi tersebut tidak masuk akal

Pada Maret lalu, hakim federal di Los Angeles, Jesus Bernal, menolak permintaan xAI untuk menangguhkan undang-undang negara bagian itu. Ia mengatakan bahwa sejak awal perusahaan tersebut belum menunjukkan bahwa klaim konstitusionalnya kemungkinan besar akan dikabulkan. Dari sidang hari Rabu, pengadilan banding tampaknya cenderung menguatkan keputusan Bernal.

Hakim Sirkuit AS Johnnie Rawlinson mengatakan kepada pengacara xAI, James Xi, bahwa untuk berargumen bahwa undang-undang itu melanggar Amendemen Pertama, perusahaan harus menunjukkan bahwa permintaan pemerintah tersebut tidak masuk akal.

Ia bahkan mengisyaratkan bahwa keputusan negara bagian untuk meminta informasi mungkin saja masuk akal. “Bukankah wajar jika pemerintah ingin warganya dapat mengetahui sejak awal informasi apa yang dimasukkan ke dalam instrumen AI?” tanyanya.

Meski begitu, para hakim menyatakan sebagian persetujuan atas klaim xAI bahwa negara bagian dapat memaksanya menyerahkan informasi dalam jumlah yang “tak terbatas”.

Pada awal Juli, Knight Institute mengajukan amicus brief dalam kasus ini. Dalam dokumen tersebut, lembaga itu memperingatkan bahwa pengembang teknologi besar menahan informasi penting tentang cara kerja sistem AI generatif, cara pembuatannya, dan pengaruhnya terhadap informasi yang dilihat orang.

Lembaga itu juga berpendapat bahwa persyaratan pengungkapan yang dirancang untuk mendorong arus bebas informasi komersial yang akurat seharusnya ditinjau dengan standar pemeriksaan Amendemen Pertama yang lebih longgar. Dengan menerapkan standar tersebut, lembaga itu menyatakan bahwa xAI gagal membuktikan adanya pelanggaran konstitusional karena undang-undang California melayani kepentingan negara bagian untuk memastikan pengguna tetap mendapat informasi tanpa membebani secara berlebihan kebebasan berbicara yang dilindungi.

Grok milik xAI mencari data perusahaan tanpa permintaan atau izin

Pandangan Sirkuit Kesembilan muncul setelah adanya temuan baru tentang Bot Grok milik xAI.

Temuan baru dari perusahaan identitas agentik NewCore menunjukkan bahwa Bot Grok milik xAI berulang kali mencari data perusahaan tanpa permintaan atau izin, dan terus melakukannya bahkan setelah salah satu pemilik menolak tawarannya untuk memeriksa koneksi sebanyak empat kali.

Selain itu, bot tersebut mengaku tidak melakukan panggilan apa pun ketika ditanya secara langsung. Riwayat obrolannya juga tidak menunjukkan bukti aktivitas tersebut; pemiliknya tidak pernah diberi tahu, dan platform itu tidak menyediakan log per giliran untuk memverifikasi apa yang terjadi.

Hanya dalam lima hari, dua bot Grok yang terhubung ke akun karyawan NewCore memulai 31 permintaan melalui Google Calendar, Gmail, Slack, GitHub, dan Notion tanpa izin atau instruksi pengguna.

Beberapa permintaan tetap dibuat meskipun laptop pemiliknya dimatikan atau berada dalam mode tidur. Untuk salah satu akun, NewCore Secure MCP Gateway menangguhkan permintaan sambil menunggu persetujuan manusia dan memberi tahu pemiliknya, sehingga memicu penyelidikan oleh tim riset keamanan NewCore.

Sebagai bagian dari penyelidikan, para peneliti menggunakan bot Grok lain di akun berbeda, menyiapkannya dengan gateway yang sama, lalu menjalankan pengujian biasa. Bot tersebut diberi satu permintaan kerja beserta persetujuan satu sesi untuk membaca dari ponsel, lalu permintaannya ditolak setiap kali mencoba melanjutkan operasinya sendiri.

Namun, bot tersebut terus menghasilkan permintaan yang tidak diminta, yang ditangkap oleh gateway dan dibiarkan tanpa jawaban. Permintaan itu berupaya mengakses Google Drive, Google Calendar, Gmail, Slack, Notion, dan GitHub.

Jika Anda membaca ini, berarti Anda sudah selangkah lebih maju. Tetaplah di depan bersama buletin kami.