カリフォルニア州のChatGPT利用者2人が、アメリカ合衆国カリフォルニア北部地区連邦地方裁判所にて、OpenAIに対して提案型の集団訴訟を提起した。訴状では、同社が実際の会話がレビューのため外部の委託先（アウトソーシング先）に送られていることを十分に開示していなかったとしている。ChainCatcherによれば、この訴訟は9月2日にOpenAIへ送達され、Project Lilyと呼ばれる社内プログラムをめぐる内容だ。

訴状によると、第三者の人材派遣会社を通じて雇われたAIデータ評価者およびチャットボット評価者が、実際のChatGPTのプロンプトと会話全文を読み取り、ユーザーの意図を要約し、1〜7の尺度で4つのモデルの回答に対する採点とコメントを行うという。さらに、ユーザーには、人が読める可能性があるのではなく機械が読む可能性があるのではなく、人が読む可能性について明確に伝えられていなかったと主張している。

OpenAIは、人の確認作業の前に自動化されたシステムで会話をフィルタリングしていると報じられているが、訴状では、そのフィルタがすべてを捕捉できておらず、個人情報がなおも委託業者に届く可能性があるとしている。404 Mediaは9月14日にこのプロジェクトを最初に報じ、レビュー担当者のダッシュボードには、ユーザー名が削除された後でも、ユーザーの一般的な居場所、職業、または私生活を明らかにし得るユーザーメモリーの要約が含まれていたことを見つけた。

OpenAIは、レビューは2つの行動を減らすことを目的としていると述べた。すなわち、チャットボットが人間らしすぎる振る舞いをすること、そしてユーザーに対して過度に迎合的になることだ。訴訟では、カリフォルニア州の不正競争防止法（Unfair Competition Law）や消費者プライバシー法（Consumer Privacy Act）の違反があったとされるほか、軽率な侵入（seclusion）に関するコモンロー上の主張など、8つの法的請求が提起されている。原告らは損害賠償、不正に得た利益の返還、懲罰的損害賠償を求めている。