Dua pengguna ChatGPT California mengajukan gugatan class action yang diusulkan terhadap OpenAI di Pengadilan Negeri AS untuk Distrik Utara California, dengan tuduhan bahwa perusahaan gagal mengungkapkan dengan memadai bahwa percakapan nyata dikirim ke kontraktor luar untuk ditinjau. Menurut ChainCatcher, gugatan tersebut diserahkan kepada OpenAI pada 2 September dan berpusat pada program internal bernama Project Lily.

Pengaduan tersebut menyatakan bahwa penilai data AI dan pengevaluasi chatbot yang direkrut melalui perusahaan penyalur tenaga kerja pihak ketiga membaca prompt ChatGPT nyata dan percakapan lengkap, merangkum maksud pengguna, serta memberi skor dan komentar atas respons dari empat model pada skala 1 hingga 7. Gugatan itu berpendapat bahwa pengguna tidak pernah diberi tahu dengan jelas bahwa manusia, bukan mesin, mungkin membaca obrolan mereka.

OpenAI dilaporkan menggunakan sistem otomatis untuk menyaring percakapan sebelum ditinjau oleh manusia, tetapi pengaduan tersebut mengatakan bahwa penyaring itu tidak menangkap semuanya dan detail pribadi masih dapat sampai ke kontraktor. 404 Media pertama kali melaporkan proyek ini pada 14 September dan menemukan bahwa dasbor para peninjau memuat ringkasan memori pengguna yang dapat mengungkap lokasi umum, pekerjaan, atau kehidupan pribadi seseorang, bahkan setelah nama pengguna dihapus.

OpenAI mengatakan bahwa ulasan tersebut dimaksudkan untuk mengurangi dua perilaku: chatbot yang bertindak terlalu seperti manusia dan terlalu mudah menyetujui pengguna. Gugatan ini mengajukan delapan klaim hukum, termasuk dugaan pelanggaran terhadap Unfair Competition Law dan Consumer Privacy Act di California, serta klaim pelanggaran privasi berdasarkan common law. Para penggugat menuntut ganti rugi, pengembalian keuntungan yang diperoleh secara tidak sah, dan ganti rugi yang bersifat menghukum.