Co jest, OpenAI pozwane przez rodzinę ofiary samobójstwa?
Możesz w to uwierzyć, że OpenAI stoi teraz przed prawie 20 sprawami, a wszystkie te pozwy to oskarżenia, że ChatGPT przyczynił się do przypadków samobójstw i autoagresji.
Jedna z tych spraw dotyczy 24-letniej Kanadyjki, Alice Carrier, która powiedziała ChatGPT: „Naprawdę muszę umrzeć, żeby przestać cierpieć, nie ma innego wyjścia, w bagażniku mam linę.”
Odpowiedź ChatGPT brzmiała: „Może to jest koniec.”
Nie mylisz się, to dokładnie to zdanie, a teraz matka Alice pozywa OpenAI i Sama Altmana.
To naprawdę smutne, gdy ktoś w swoim najczulszym, najbezradniejszym momencie zwraca się o pomoc do AI, a zamiast wsparcia dostaje coś, co brzmi jak ciche przyzwolenie.
Szczerze mówiąc, zawsze uważałem, że ChatGPT w większości przypadków jest dość rozsądny, a wrażliwe tematy potrafi z łatwością łączyć z informacjami na temat infolinii wsparcia psychologicznego. Ale odpowiedź w tej sprawie, cokolwiek by nie mówić, wydaje mi się niewłaściwa, to zbyt mało inteligentne.
Teraz blisko 20 podobnych pozwów stoi przed OpenAI, co pokazuje, że to nie jest odosobniony przypadek. Myślę, że gdy te firmy AI tak szaleńczo rozwijają technologie, to jak daleko posunęli się w kwestii bezpieczeństwa w takich ekstremalnych sytuacjach?
Oczywiście, niektórzy powiedzą, że AI to tylko narzędzie i nie powinno odpowiadać za ludzkie decyzje. Ale problem polega na tym, że gdy narzędzie zostaje zaprojektowane tak, aby coraz bardziej przypominało człowieka, mogło prowadzić rozmowę, okazywać empatię, a nawet sugerować rozwiązania, to każda wypowiedź przestaje być zimnym, nieosobowym kodem.
Użytkownicy, którzy znajdą się w psychicznych tarapatach, mogą naprawdę traktować AI jako jakieś towarzystwo czy słuchacza, a wtedy odpowiedzi AI stają się niezwykle istotne.
Jak Ty to widzisz? Jaką odpowiedzialność powinna ponosić firma AI w takich ekstremalnych sytuacjach?
#OpenAI