Hai người dùng ChatGPT người California đã nộp đơn đề xuất khởi kiện tập thể chống lại OpenAI tại Tòa án Quận Hoa Kỳ thuộc Quận Bắc California, cáo buộc công ty đã không tiết lộ đầy đủ rằng các cuộc trò chuyện thực được gửi cho các nhà thầu bên ngoài để xem xét. Theo ChainCatcher, vụ kiện đã được tống đạt cho OpenAI vào ngày 2 tháng 9 và xoay quanh một chương trình nội bộ có tên Project Lily.

Đơn kiện cho biết các nhân sự chấm dữ liệu AI và người đánh giá chatbot được thuê thông qua các công ty nhân sự bên thứ ba đọc các lời nhắc ChatGPT thực và toàn bộ cuộc hội thoại, tóm tắt ý định của người dùng, rồi chấm điểm và để bình luận cho các câu trả lời từ bốn mô hình theo thang điểm từ 1 đến 7. Đơn kiện lập luận rằng người dùng chưa bao giờ được thông báo rõ ràng rằng một con người, chứ không phải một cỗ máy, có thể đọc các cuộc trò chuyện của họ.

Theo báo cáo, OpenAI sử dụng các hệ thống tự động để lọc các cuộc trò chuyện trước khi con người rà soát, nhưng đơn kiện cho rằng các bộ lọc đó không bắt được hết mọi thứ và các chi tiết cá nhân vẫn có thể được chuyển tới các nhà thầu. 404 Media lần đầu đưa tin về dự án vào ngày 14 tháng 9 và phát hiện rằng bảng điều khiển của người rà soát có chứa các bản tóm tắt bộ nhớ của người dùng, có thể tiết lộ vị trí chung, nghề nghiệp hoặc đời tư của một người dùng, ngay cả sau khi đã xóa tên người dùng.

OpenAI cho biết các đánh giá được thiết kế nhằm giảm hai hành vi: chatbot cư xử quá giống con người và quá dễ dãi/đồng ý với người dùng. Vụ kiện nêu ra tám yêu cầu pháp lý, bao gồm các cáo buộc vi phạm Đạo luật Cạnh tranh Không Công bằng và Đạo luật Bảo vệ Quyền riêng tư của Người tiêu dùng của California, cũng như các cáo buộc xâm nhập trái phép theo thông luật về sự riêng tư. Nguyên đơn đang tìm kiếm các khoản bồi thường thiệt hại, hoàn trả các khoản lợi nhuận thu được từ hành vi sai trái và tiền bồi thường mang tính trừng phạt.