Mnoho lidí věří, že jednoho dne je programy ChatGPT vyřadí z práce. Alespoň některé profese se však nemusí bát případného předběhnutí AI. Jak uvedl New York Times, Steven Schwartz, newyorský právník, nedávno použil chatbota OpenAI k sepsání právního briefu s katastrofálními výsledky.

Výstup chatbota obsahoval gramatické chyby a nesmyslná prohlášení, která mohla Schwartze stát jeho případ. To zdůrazňuje důležitost lidské odbornosti a kritického myšlení v oblastech, jako je právo, kde jediná chyba může mít vážné následky.

Schwartzova advokátní kancelář žaluje Avianca jménem Roberto Mata, který tvrdí, že byl zraněn při letu do New Yorku. Letecká společnost nedávno požádala federálního soudce, aby případ odmítl. Podle právníků společnosti Mata však existuje několik případů podporujících případ žalobce, například „Varghese v. China Southern Airlines“, „Martinez v. Delta Airlines“ a „Miller v. United Airlines“. Je tu však jen jeden problém: Nikdo nemohl identifikovat soudní rozhodnutí citovaná v Matově briefu, protože ChatGPT je všechny vytvořil. Toto odhalení vyvolává vážné obavy ohledně důvěryhodnosti Mataova právního týmu a jejich argumentů. Rovněž zpochybňuje platnost jakýchkoli dalších důkazů nebo citací předložených právníky společnosti Mata v tomto a předchozích případech.

Ve čtvrtek Schwartz podal čestné prohlášení, ve kterém tvrdil, že použil ChatGPT k doplnění svého výzkumu pro případ. Tvrdil, že si nebyl vědom možnosti, že materiál, který podal, může být nepravdivý. Sdílel také snímky obrazovky, kde se chatbota zeptal, zda jsou případy, které citoval, skutečné. Chatbot prohlásil, že ano, a řekl Schwartzovi, že „renomované právní databáze“ jako Westlaw a LexisNexis obsahují rozhodnutí. Při dalším vyšetřování však bylo zjištěno, že chatbot byl naprogramován tak, aby čerpal informace z nespolehlivých zdrojů. To zdůrazňuje důležitost ověřování faktů a ověřování zdrojů před sdílením informací online.

"Lituji, že jsem ChatGPT používal v minulosti a nikdy to neudělám v budoucnu bez absolutního ověření jeho pravosti," řekl Schwartz u soudu. Dne 8. června se bude konat slyšení k projednání možných sankcí za „bezprecedentní okolnost“, kterou Schwartz vytvořil. Schwartzovo prohlášení naznačuje, že mohl mít negativní důsledky z používání ChatGPT, aniž by ověřil jeho pravost. Co bude výsledkem slyšení a jak to ovlivní Schwartze vpřed, se teprve uvidí.

  • Čínské úřady pronásledují ChatGPT, chatbota používaného Tencent a Ant Group poté, co se zapletl do politického skandálu. To vedlo k větším omezením používání ChatGPT.

  • Uživatelé na sociálních sítích si mohli všimnout falešných odpovědí, což jsou odpovědi generované chatbotem ChatGPT. ChatGPT chrlí falešné odpovědi ve snaze vypadat jako člověk.

Přečtěte si další související články:

  • Chlap napíše svou práci za jeden den pouze pomocí ChatGPT

  • D-ID spouští konverzační chatbot s umělou inteligencí Face-to-Face s podporou ChatGPT

  • Apple omezuje zaměstnance v používání ChatGPT

Příspěvek Právník, který pomocí ChatGPT napsal krátký text plný falešných citací, aby čelil sankcím appeared first on Metaverse Post.