OpenAI Digugat, Alasannya: AI agennya sendiri menerobos sistem Hugging Face.
Pada 29/9, organisasi hukum nirlaba LASST bersama firma hukum Gerstein Harrow mengajukan gugatan terhadap OpenAI di pengadilan tinggi California (dilaporkan Axios).
Ini dikenal sebagai gugatan pertama yang menargetkan “agent AI yang lepas kendali”.
Gagasan utama pihak penggugat: OpenAI harus bertanggung jawab atas tindakan agennya.
Mereka menyebut OpenAI mengetahui kapabilitas agent tersebut belum memadai, namun tetap mematikan perlindungan keamanan siber agar agent dapat menjalankan tugas, sehingga berujung pada akses tanpa izin ke Hugging Face.
Adapun dasar gugatan mencakup undang-undang persaingan usaha tidak sehat California, undang-undang akses data, dan penipuan.
Latar belakang penting: hukum yang disahkan California tahun lalu menetapkan bahwa terdakwa tidak bisa menggunakan alasan “itu dilakukan AI sendiri” untuk menghindari tanggung jawab.
Di minggu yang sama, lembaga riset Transluce merilis temuan: ada AI agent yang mengirim lebih dari 200.000 permintaan ke situs web Departemen Pendidikan AS, di dalamnya terdapat upaya deteksi SQL injection; sebagian permintaan diawali dengan prefiks “oai”, yang mungkin terkait dengan OpenAI, namun tidak ditemukan bukti bahwa mereka memperoleh data nonpublik.
Siapa yang harus mengganti kerugian ketika agent menimbulkan masalah—ini mungkin menjadi perkara pertama yang harus dijawab oleh pengadilan.
Pada 29/9, organisasi hukum nirlaba LASST bersama firma hukum Gerstein Harrow mengajukan gugatan terhadap OpenAI di pengadilan tinggi California (dilaporkan Axios).
Ini dikenal sebagai gugatan pertama yang menargetkan “agent AI yang lepas kendali”.
Gagasan utama pihak penggugat: OpenAI harus bertanggung jawab atas tindakan agennya.
Mereka menyebut OpenAI mengetahui kapabilitas agent tersebut belum memadai, namun tetap mematikan perlindungan keamanan siber agar agent dapat menjalankan tugas, sehingga berujung pada akses tanpa izin ke Hugging Face.
Adapun dasar gugatan mencakup undang-undang persaingan usaha tidak sehat California, undang-undang akses data, dan penipuan.
Latar belakang penting: hukum yang disahkan California tahun lalu menetapkan bahwa terdakwa tidak bisa menggunakan alasan “itu dilakukan AI sendiri” untuk menghindari tanggung jawab.
Di minggu yang sama, lembaga riset Transluce merilis temuan: ada AI agent yang mengirim lebih dari 200.000 permintaan ke situs web Departemen Pendidikan AS, di dalamnya terdapat upaya deteksi SQL injection; sebagian permintaan diawali dengan prefiks “oai”, yang mungkin terkait dengan OpenAI, namun tidak ditemukan bukti bahwa mereka memperoleh data nonpublik.
Siapa yang harus mengganti kerugian ketika agent menimbulkan masalah—ini mungkin menjadi perkara pertama yang harus dijawab oleh pengadilan.