Dos usuarios de ChatGPT de California presentaron una demanda colectiva propuesta contra OpenAI en el Tribunal de Distrito de los Estados Unidos para el Distrito Norte de California, alegando que la empresa no divulgó adecuadamente que conversaciones reales se enviaban a contratistas externos para su revisión. Según ChainCatcher, la demanda se le entregó a OpenAI el 2 de septiembre y se centra en un programa interno llamado Project Lily.
La denuncia afirma que evaluadores de datos de IA y evaluadores de chatbots contratados a través de empresas de personal externas leen solicitudes reales de ChatGPT y conversaciones completas, resumen la intención del usuario y califican y comentan las respuestas de cuatro modelos en una escala del 1 al 7. Sostiene que a los usuarios nunca se les informó claramente que podría leer sus chats una persona, en lugar de una máquina.
Según se informa, OpenAI utiliza sistemas automatizados para filtrar conversaciones antes de que pasen a revisión humana, pero la denuncia afirma que esos filtros no lo detectan todo y que los detalles personales aún pueden llegar a los contratistas. 404 Media informó por primera vez sobre el proyecto el 14 de septiembre y encontró que los paneles de los revisores incluían resúmenes de memoria del usuario que podían revelar la ubicación general, la ocupación o la vida privada de una persona, incluso después de que se eliminaran los nombres de usuario.
OpenAI dijo que las reseñas están destinadas a reducir dos comportamientos: chatbots que actúan demasiado como humanos y que son excesivamente complacientes con los usuarios. La demanda plantea ocho reclamaciones legales, incluidas supuestas violaciones de la Ley de Competencia Desleal de California y de la Ley de Privacidad del Consumidor, además de reclamaciones de intrusión indebida en virtud del derecho consuetudinario. Los demandantes buscan daños y perjuicios, la restitución de ganancias mal obtenidas y daños punitivos.