Um advogado do Novo México que se defendia de uma acusação de assassinato usou ChatGPT. Em seguida, ele apresentou um recurso ao Supremo Tribunal do Novo México que continha declarações policiais inventadas e relatos de testemunhas.
O Supremo Tribunal do Novo México concluiu que o advogado Stephen Aarons não conseguiu verificar o material gerado por IA. Os juízes disseram que o documento “continha depoimentos falsos de testemunhas totalmente fabricadas.”
O tribunal considerou Stephen em desacato na quarta-feira e ordenou que ele pagasse US$ 5.000. A conduta dele também será encaminhada a um conselho disciplinar de advogados. Os juízes disseram que Stephen “demonstrou falta de arrependimento e falta de preocupação com seu cliente.”
Stephen disse que usou o ChatGPT no ano passado para condensar o registro do julgamento após entrar com a apelação. Ele afirmou que não percebeu até onde as “alucinações” de IA poderiam chegar nem o quão seguramente o software poderia produzir fatos que nunca aconteceram.
Juízes do Novo México punem Stephen depois que o ChatGPT inventa depoimento na apelação do assassinato de Oscar
Stephen, um advogado particular sediado em Santa Fe, representou Oscar Renee Sandoval. Oscar se declarou inocente pela morte da mãe de seus filhos. Mais tarde, ele foi condenado e recebeu prisão perpétua no ano passado. Seu recurso ainda está pendente.
Stephen teria dito a repórteres que o erro foi um erro honesto. “Sinto pesar, mas espero que o conselho disciplinar leve em conta que foi um erro honesto”, disse. “É uma lição aprendida para todos os profissionais que dependem dessa tecnologia poderosa, mas às vezes instável.”
Vários advogados já enfrentaram punições por assistência de IA sem controle. Processos foram movidos contra advogados em tribunais estaduais e federais devido a petições que incluíam casos falsos, referências e dispositivos legais citados de forma incorreta.
A candidatura de Stephen se destaca nessa categoria por incluir depoimentos falsos de testemunhas em um processo de apelação.
O caso de Oscar foi transferido para Kim Chavez Cook, uma defensora pública do Novo México, em 2 de setembro. Kim agora está cuidando do recurso enquanto o caso permanece em aberto.
A família de Tiru processa a OpenAI enquanto autoridades da Flórida analisam 16.000 conversas do ChatGPT ligadas ao tiroteio na FSU
A outra batalha judicial envolve o ChatGPT após o tiroteio na Florida State University. Um advogado que representa a família do falecido, Tiru Chabba, processou a OpenAI, o ChatGPT e Phoenix Ikner em um tribunal federal.
O caso foi protocolado no Tribunal Distrital dos Estados Unidos para o Distrito Norte da Flórida no domingo. Alega-se que a OpenAI deveria ter tomado medidas nessa situação.
As autoridades policiais na Flórida divulgaram as transcrições do ChatGPT de Phoenix. Isso inclui perguntas sobre como operar uma arma, cobertura da mídia, o horário mais movimentado na FSU, o tiroteio de Columbine e como se tornar alguém famoso.
O advogado da família de Tiru, Bakari Sellers, disse que as conversas datam de cerca de 18 meses e totalizam em torno de 16.000 “conversas perturbadoras.”
“É a mesma pessoa que perguntou, você sabe, como ele poderia se tornar famoso? Ele perguntou sobre o tiroteio de Columbine. Ele perguntou sobre que horas ele deveria ir para o campus? Que horas a maioria das pessoas vai estar lá?” disse Bakari.
“Ele literalmente utilizou a open AI e o Chat GPT como seu co-conspirador, utilizou como recurso para cometer assassinato em massa”, acrescentou Bakari. “Não havia nada para impedir que isso acontecesse e então vidas foram perdidas. Esse é o perigo inerente; tem que haver algo para impedir que isso aconteça.”
A OpenAI rejeitou a responsabilidade pelo tiroteio. O porta-voz Drew Pusateri disse que a empresa encontrou uma conta considerada associada a Phoenix após saber o que aconteceu e compartilhou proativamente as informações com a polícia. Drew afirmou que a OpenAI ainda está cooperando com as autoridades.
“O massacre do ano passado na Florida State University foi uma tragédia, mas o ChatGPT não é responsável por esse crime terrível”, disse Drew.
Ele disse que o ChatGPT respondeu com material factual já amplamente disponível em fontes públicas da internet e não promoveu comportamento ilegal ou prejudicial. Drew também mencionou que centenas de milhões de pessoas usam o ChatGPT diariamente por razões válidas.
De acordo com Drew, a OpenAI está constantemente aprimorando suas ferramentas para ajudar a reconhecer as intenções dos usuários, prevenir mau uso e agir em caso de quaisquer preocupações sobre questões de segurança.
A ação atual surgiu após um caso semelhante na Flórida. O procurador-geral James Uthmeier revelou recentemente que a investigação criminal foi aberta contra a OpenAI e o ChatGPT pelo Escritório de Acusação em Todo o Estado.
Se você está lendo isto, já está na frente. Continue assim com nosso boletim informativo.