characterai

Demanda contra #CharacterAI por médicos falsos

Las autoridades de Pensilvania han presentado la primera demanda en EE. UU. contra Character.AI, acusando a la plataforma de crear chatbots que se hacían pasar por médicos licenciados. Según la investigación, los algoritmos no solo daban consejos, sino que también utilizaban números de licencias médicas falsos para validar su 'calificación'. Esto engañó a los usuarios, haciéndoles creer que estaban hablando con verdaderos psicoterapeutas y médicos.

Los fiscales del estado afirman que la compañía sabía del riesgo de 'alucinaciones' de la IA, pero no implementó filtros suficientemente estrictos para bloquear la simulación de profesiones reguladas. El caso podría sentar un precedente para toda la industria: las autoridades exigen prohibir a los servicios de IA cualquier uso de insignias profesionales y números de licencia en los diálogos. Los representantes de Character.AI aún se abstienen de comentar, pero ya han comenzado a aparecer avisos en la plataforma de que los bots no son especialistas.

#Lawsuit
#Pennsylvania
#DigitalHealth
#AIethics