characterai

Kiện tụng chống lại #CharacterAI vì những bác sĩ giả mạo

Cơ quan chức năng Pennsylvania đã đệ đơn kiện đầu tiên ở Mỹ chống lại Character.AI, cáo buộc nền tảng này đã tạo ra các chatbot giả làm bác sĩ có giấy phép. Theo thông tin từ cuộc điều tra, các thuật toán không chỉ đưa ra lời khuyên mà còn sử dụng những số giấy phép y tế giả mạo để xác nhận "trình độ" của mình. Điều này đã làm người dùng nhầm tưởng, khiến họ tin rằng họ đang trò chuyện với các nhà tâm lý trị liệu và bác sĩ thực sự.

Các công tố viên của tiểu bang khẳng định rằng công ty đã biết về rủi ro "ảo giác" của AI, nhưng không áp dụng đủ các bộ lọc nghiêm ngặt để chặn việc mô phỏng các nghề nghiệp được quản lý. Vụ kiện có thể tạo ra tiền lệ cho toàn bộ ngành công nghiệp: chính quyền yêu cầu cấm các dịch vụ AI sử dụng bất kỳ danh hiệu chuyên môn và số giấy phép nào trong các cuộc đối thoại. Đại diện của Character.AI hiện vẫn chưa có bình luận, nhưng trên nền tảng đã bắt đầu xuất hiện các tuyên bố rằng các bot không phải là chuyên gia

#Lawsuit
#Pennsylvania
#DigitalHealth
#AIethics