characterai

Иск против​ #CharacterAI за фейковых врачей

Власти Пенсильвании подали первый в США иск против Character.AI, обвинив платформу в создании чат-ботов, которые выдавали себя за лицензированных медиков. По данным следствия, алгоритмы не просто давали советы, но и использовали вымышленные номера медицинских лицензий для подтверждения своей «квалификации». Это вводило пользователей в заблуждение, заставляя их верить, что они общаются с реальными психотерапевтами и врачами.

​Прокуроры штата утверждают, что компания знала о риске «галлюцинаций» ИИ, но не внедрила достаточно жесткие фильтры для блокировки симуляции регулируемых профессий. Дело может создать прецедент для всей индустрии: власти требуют запретить ИИ-сервисам любое использование профессиональных регалий и номеров лицензий в диалогах. Представители Character.AI пока воздерживаются от комментариев, но на платформе уже начали появляться дисклеймеры о том, что боты не являются специалистами

#Lawsuit
#Pennsylvania
#DigitalHealth
#AIethics