Два пользователя ChatGPT из Калифорнии подали в окружной суд США по Северному округу Калифорнии предложенный коллективный иск против OpenAI, утверждая, что компания не раскрыла надлежащим образом, что реальные разговоры отправляются внешним подрядчикам для проверки. По данным ChainCatcher, иск был вручен OpenAI 2 сентября и связан с внутренней программой под названием Project Lily.

В жалобе говорится, что оценщики данных ИИ и оценивающие чатботы, нанятые через сторонние кадровые агентства, читают реальные запросы в ChatGPT и полные переписки, обобщают намерения пользователя и выставляют оценки и оставляют комментарии к ответам четырех моделей по шкале от 1 до 7. Там утверждается, что пользователям никогда не сообщали ясно, что их чаты может прочитать человек, а не машина.

Сообщается, что OpenAI использует автоматизированные системы для фильтрации разговоров перед ручной проверкой, но в жалобе говорится, что эти фильтры не улавливают всё, и личные данные всё равно могут попадать к подрядчикам. 404 Media впервые сообщило о проекте 14 сентября и обнаружило, что панели проверяющих включали сводки пользовательской памяти, которые могли раскрыть общее местоположение пользователя, род занятий или личную жизнь, даже после удаления имён пользователей.

OpenAI заявила, что отзывы предназначены для снижения двух моделей поведения: чатботов, которые ведут себя слишком по-человечески, и их чрезмерной уступчивости пользователям. Иск выдвигает восемь юридических требований, включая предполагаемые нарушения Закона Калифорнии о недобросовестной конкуренции и Закона о защите конфиденциальности потребителей, а также иски о незаконном вторжении в уединение по общему праву. Истцы добиваются компенсации ущерба, возврата незаконно полученной выгоды и штрафных убытков.