Zwei Nutzerinnen und Nutzer von ChatGPT aus Kalifornien reichten einen vorgeschlagenen Sammelklageantrag gegen OpenAI in der US-Bezirksgerichtsbarkeit für den Northern District of California ein und behaupteten, das Unternehmen habe nicht angemessen offengelegt, dass echte Gespräche an externe Auftragnehmer zur Überprüfung gesendet würden. Laut ChainCatcher wurde die Klage OpenAI am 2. September zugestellt und bezieht sich auf ein internes Programm namens Project Lily.

In der Klageschrift heißt es, dass KI-Datenbewerter und Chatbot-Gutachter, die über Personaldienstleistungsfirmen beauftragt wurden, echte ChatGPT-Prompts und vollständige Konversationen lesen, die Nutzerabsicht zusammenfassen sowie Antworten von vier Modellen auf einer Skala von 1 bis 7 bewerten und kommentieren. Außerdem wird argumentiert, dass Nutzer nie eindeutig darüber informiert worden seien, dass anstelle einer Maschine ein Mensch ihre Chats lesen könnte.

Laut Berichten setzt OpenAI automatisierte Systeme ein, um Gespräche vor einer menschlichen Prüfung zu filtern, aber in der Klageschrift heißt es, diese Filter würden nicht alles erfassen und persönliche Details könnten dennoch an Auftragnehmer gelangen. 404 Media berichtete zuerst am 14. September über das Projekt und stellte fest, dass die Dashboards der Prüfer Zusammenfassungen von Nutzerspeicher enthielten, die eine allgemeine Position, den Beruf oder das Privatleben eines Nutzers offenlegen könnten, selbst nachdem Benutzernamen entfernt worden waren.

OpenAI sagte, die Bewertungen seien darauf ausgelegt, zwei Verhaltensweisen zu reduzieren: dass Chatbots zu menschlich wirken und dass sie den Nutzern gegenüber übermäßig zustimmend sind. Die Klage erhebt acht rechtliche Ansprüche, darunter angebliche Verstöße gegen das kalifornische Unfair-Competition-Gesetz und den Consumer Privacy Act sowie Klagen wegen unrechtmäßigen Eingriffs in die Privatsphäre nach Common Law. Die Kläger suchen Schadensersatz, die Rückerstattung unrechtmäßig erlangter Gewinne und Strafschadensersatz.