characterai

Pozew przeciwko #CharacterAI za fałszywych lekarzy

Władze Pensylwanii złożyły pierwszy w USA pozew przeciwko Character.AI, oskarżając platformę o stworzenie chatbotów, które podszywały się pod licencjonowanych medyków. Z danych śledztwa wynika, że algorytmy nie tylko udzielały porad, ale także używały fikcyjnych numerów licencji medycznych do potwierdzenia swojej „kwalifikacji”. To wprowadzało użytkowników w błąd, sprawiając, że wierzyli, iż rozmawiają z prawdziwymi psychoterapeutami i lekarzami.

Prokuratorzy stanu twierdzą, że firma była świadoma ryzyka „halucynacji” AI, ale nie wdrożyła wystarczająco rygorystycznych filtrów, aby zablokować symulację regulowanych zawodów. Sprawa może stworzyć precedens dla całej branży: władze domagają się zakazu dla usług AI na używanie jakichkolwiek profesjonalnych tytułów i numerów licencji w dialogach. Przedstawiciele Character.AI na razie powstrzymują się od komentarzy, ale na platformie już zaczęły pojawiać się zastrzeżenia, że boty nie są specjalistami

#Lawsuit
#Pennsylvania
#DigitalHealth
#AIethics