Una abogada de Nuevo México que se defendía contra una condena por asesinato utilizó ChatGPT. Luego presentó un escrito ante la Corte Suprema de Nuevo México que contenía declaraciones policiales y relatos de testigos inventados.
La Corte Suprema de Nuevo México determinó que el abogado Stephen Aarons no verificó el material generado por la IA. Los jueces dijeron que el documento “contenía testimonios falsos de testigos totalmente fabricados”.
El tribunal lo declaró en desacato el miércoles y le ordenó pagar 5.000 dólares. Su conducta también será presentada ante una junta de disciplina de abogados. Los jueces dijeron que Stephen había “demostrado falta de arrepentimiento y falta de preocupación por su cliente”.
Stephen dijo que usó ChatGPT el año pasado para condensar el expediente del juicio después de presentar la apelación. Dijo que no se dio cuenta de hasta dónde podían llegar las “alucinaciones” de la IA ni de qué tan con confianza el software podía producir hechos que nunca ocurrieron.
Jueces de Nuevo México castigan a Stephen después de que ChatGPT inventa un testimonio dentro de la apelación por el asesinato de Oscar
Stephen, un abogado particular con sede en Santa Fe, representó a Oscar Renee Sandoval. Oscar se declaró inocente de matar a la madre de sus hijos. Más tarde fue declarado culpable y recibió cadena perpetua el año pasado. Su apelación sigue pendiente.
Según se alega, Stephen dijo a los reporteros que el error había sido sincero. “Me siento arrepentido, pero espero que el comité disciplinario tenga en cuenta que fue un error honesto”, dijo. “Es una lección aprendida para todos los profesionales que dependen de esta tecnología poderosa pero a veces inestable.”
Varios abogados ya se han enfrentado a sanciones por la asistencia de IA fuera de control. Se han presentado casos contra abogados tanto en tribunales estatales como federales debido a escritos que incluyen casos falsos, referencias y disposiciones legales citadas incorrectamente.
La solicitud de Stephen destaca en esta categoría porque incluye testimonios falsos de testigos en un proceso de apelación.
El caso de Oscar pasó a manos de Kim Chavez Cook, una defensora pública de Nuevo México, el 2 de septiembre. Kim ahora está manejando la apelación mientras el caso permanece abierto.
La familia de Tiru demanda a OpenAI mientras funcionarios de Florida examinan 16,000 chats de ChatGPT vinculados al tiroteo en la FSU
La otra batalla judicial involucra a ChatGPT después del tiroteo en la Universidad Estatal de Florida. Un abogado que representa a la familia de la fallecida, Tiru Chabba, demandó a OpenAI, ChatGPT y Phoenix Ikner en un tribunal federal.
El caso se presentó en el Tribunal de Distrito de los Estados Unidos para el Distrito Norte de Florida el domingo. Se alega que OpenAI debería haber tomado medidas en esta situación.
Las autoridades policiales en Florida han publicado las transcripciones de ChatGPT de Phoenix. Esto incluye consultas sobre cómo operar un arma, cobertura de los medios, la franja horaria más concurrida en la FSU, el tiroteo de Columbine y cómo hacerse famoso o infame.
El abogado de la familia de Tiru, Bakari Sellers, dijo que los intercambios se remontan a unos 18 meses y suman alrededor de 16,000 “conversaciones perturbadoras”.
“Esa es la misma persona que preguntó, ya sabes, ¿cómo puede hacerse famoso? Preguntó sobre el tiroteo de Columbine. Preguntó a qué hora debería ir al campus. ¿A qué hora van la mayoría de la gente a estar allí?” dijo Bakari.
“Literalmente utilizó a la IA abierta y a Chat GPT como su cómplice, lo utilizó como un recurso para llevar a cabo un asesinato masivo”, añadió Bakari. “No había nada para evitar que eso ocurriera y por eso se perdieron vidas. Ese es el peligro inherente: tiene que haber algo que lo impida.”
OpenAI rechazó la responsabilidad por el tiroteo. El portavoz Drew Pusateri dijo que la empresa encontró una cuenta que se cree asociada con Phoenix después de conocer lo ocurrido y compartió proactivamente la información con la policía. Drew dijo que OpenAI aún colabora con las autoridades.
“El tiroteo masivo del año pasado en la Universidad Estatal de Florida fue una tragedia, pero ChatGPT no es responsable de este terrible crimen”, dijo Drew.
Dijo que ChatGPT respondió con material fáctico que ya estaba ampliamente disponible a través de fuentes públicas de internet y que no promovió comportamientos ilegales o dañinos. Drew también mencionó que cientos de millones de personas usan ChatGPT a diario por razones válidas.
Según Drew, OpenAI está mejorando constantemente sus herramientas para ayudar a reconocer las intenciones de los usuarios, prevenir el mal uso y actuar en caso de cualquier preocupación sobre temas de seguridad.
La demanda actual surgió después de un caso similar en Florida. El fiscal general James Uthmeier reveló recientemente que la investigación criminal se inició contra OpenAI y ChatGPT por la Oficina de Fiscalización en Todo el Estado.
Si estás leyendo esto, ya vas un paso adelante. Quédate ahí con nuestro boletín.