Deux utilisateurs de ChatGPT en Californie ont déposé un recours collectif proposé contre OpenAI devant le tribunal de district des États-Unis pour le district nord de la Californie, affirmant que l’entreprise n’avait pas divulgué de manière adéquate que de vraies conversations étaient envoyées à des prestataires externes pour examen. Selon ChainCatcher, la plainte a été signifiée à OpenAI le 2 septembre et porte sur un programme interne appelé Project Lily.
La plainte indique que des correcteurs de données IA et des évaluateurs de chatbots embauchés via des sociétés de recrutement tierces lisent de véritables invites ChatGPT et des conversations complètes, résument l’intention de l’utilisateur, puis notent et commentent les réponses de quatre modèles sur une échelle allant de 1 à 7. Elle soutient que les utilisateurs n’ont jamais été clairement informés qu’un humain, plutôt qu’une machine, pourrait lire leurs échanges.
OpenAI utiliserait des systèmes automatisés pour filtrer les conversations avant un examen par des humains, mais la plainte affirme que ces filtres ne détectent pas tout et que des détails personnels peuvent encore parvenir à des sous-traitants. 404 Media a d’abord fait état du projet le 14 septembre et a constaté que les tableaux de bord des examinateurs incluaient des résumés de la mémoire des utilisateurs pouvant révéler la localisation générale d’un utilisateur, sa profession ou sa vie privée, même après la suppression des noms d’utilisateur.
OpenAI a déclaré que les avis ont pour but de réduire deux comportements : des chatbots qui se comportent trop comme des humains et qui sont trop complaisants envers les utilisateurs. Le procès soulève huit moyens juridiques, dont des allégations de violation de la loi californienne sur la concurrence déloyale et de la loi californienne sur la confidentialité des consommateurs, ainsi que des allégations de violation de domicile implicite en common law. Les plaignants demandent des dommages-intérêts, la restitution des gains mal acquis et des dommages-intérêts punitifs.