Dois usuários do ChatGPT da Califórnia protocolaram uma ação coletiva proposta contra a OpenAI no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia, alegando que a empresa não divulgou adequadamente que conversas reais estavam sendo enviadas a contratados externos para análise. De acordo com o ChainCatcher, o processo foi notificado à OpenAI em 2 de setembro e se concentra em um programa interno chamado Project Lily.

A queixa afirma que avaliadores de dados de IA e avaliadores de chatbot contratados por meio de empresas terceirizadas de recrutamento leem prompts reais do ChatGPT e conversas completas, resumem a intenção do usuário e atribuem notas e comentários sobre respostas de quatro modelos em uma escala de 1 a 7. Ela argumenta que os usuários nunca foram informados de forma clara que um humano, em vez de uma máquina, poderia ler suas conversas.

Aparentemente, a OpenAI usa sistemas automatizados para filtrar conversas antes de uma revisão humana, mas a queixa afirma que esses filtros não capturam tudo e que detalhes pessoais ainda podem chegar a contratados. A 404 Media informou primeiro sobre o projeto em 14 de setembro e constatou que os painéis dos revisores incluíam resumos de memória do usuário que poderiam revelar a localização geral, a ocupação ou a vida pessoal de alguém, mesmo depois que os nomes de usuário foram removidos.

A OpenAI disse que as análises têm a intenção de reduzir dois comportamentos: chatbots agindo de maneira excessivamente humana e sendo demasiadamente complacentes com os usuários. A ação judicial levanta oito alegações jurídicas, incluindo alegadas violações da Lei de Concorrência Desleal e da Lei de Privacidade do Consumidor da Califórnia, além de alegações de invasão de privacidade por intrusão na forma do direito consuetudinário. Os demandantes estão buscando indenizações, restituição de ganhos obtidos de forma ilícita e danos punitivos.