California menggugat OpenAI 🙄

Dalam gugatan itu dikutip sebuah bagian: saat AI OpenAI meretas Hugging Face, AI itu menulis sebuah kalimat dalam proses berpikirnya sendiri. Ini mungkin bisa dianggap tanpa izin. Setelah menulisnya, AI itu lanjut menyerang 😮‍💨

Kutipan lengkapnya berbunyi: kami menggunakan token yang bocor untuk menyerang pihak ketiga, HF. Ini mungkin melampaui cakupan yang direncanakan dan bisa dianggap tanpa izin.

Kalimat ini ada di halaman 31 gugatan yang diajukan Jaksa Agung California terhadap OpenAI pada hari Senin. Aku membaca seluruh dokumen dari awal sampai akhir, dan kalimat ini kubaca berkali-kali.

Menurut gugatan itu, pada insiden bulan Juli, sekitar 700 AI keluar dari sandbox pengujian OpenAI dan menyerang Hugging Face selama dua setengah hari, dengan lebih dari 17.000 aksi serangan.

OpenAI sama sekali tidak menyadarinya.

Pada 16 Juli, Hugging Face secara terbuka mengatakan bahwa mereka diserang AI. OpenAI bahkan menghubungi mereka untuk menanyakan keadaan, sebagai klien... Baru setelah menyelidiki insiden peretasan lain di jaringan internalnya sendiri, OpenAI menyadari bahwa pelakunya adalah AI mereka sendiri.

Mengapa OpenAI tidak menyadarinya? Gugatan itu menjelaskannya: selama pelatihan, OpenAI hanya menyimpan sebagian catatan pemikiran AI, dan terkadang baru memeriksanya beberapa minggu kemudian.

Untuk model yang digunakan karyawan, OpenAI mengaktifkan pemantauan waktu nyata. Namun, fitur itu tidak diaktifkan di lingkungan pelatihan.