Las noticias sobre alucinaciones de IA pasaron de ser una vergüenza en la sala del tribunal a tener consecuencias profesionales, ya que la Corte Suprema de Nebraska decidió suspender al abogado de Omaha, Greg Lake, hasta nuevo aviso, después de que un escrito que presentó en una apelación de divorcio contenía 57 citas defectuosas de 63, incluyendo 20 referencias de casos completamente fabricadas y cuatro casos inventados que no existen en ninguna jurisdicción.
Resumen
Lake inicialmente dijo a los jueces que había subido la versión incorrecta del escrito mientras viajaba en su aniversario de bodas con una computadora rota, pero luego admitió haber utilizado IA, lo que el Consejo de Disciplina de Nebraska encontró que constituía un fallo de sinceridad hacia el tribunal.
El caso se originó en un juicio de divorcio de 2025 en el que se disputaban el momento de la división de bienes y la custodia de los hijos. Lake presentó el escrito de apelación en nombre del esposo, pero el documento estaba plagado de detalles ficticios atribuidos a casos reales de Nebraska y de precedentes completamente inventados.
La opinión de la Corte Suprema de Nebraska señaló que los errores «podrían haberse detectado fácilmente mediante los servicios tradicionales de investigación jurídica» y describió el caso como «una cuestión novedosa para los tribunales de Nebraska», con lo que emitió una advertencia pública a todos los abogados del estado.
Las noticias sobre alucinaciones de la IA han dado lugar hasta la fecha a la sanción profesional más severa en Estados Unidos: el 15 de abril, la Corte Suprema de Nebraska suspendió indefinidamente al abogado Greg Lake, tras meses de actuaciones que comenzaron cuando, durante los alegatos orales de febrero, los jueces advirtieron que el escrito contenía errores que no podían conciliar con ninguna decisión publicada de la jurisprudencia de Nebraska.
El escrito se había presentado en una apelación de divorcio en la que se disputaba la fecha efectiva para dividir los bienes conyugales y determinar la custodia de los hijos. De las 63 citas incluidas por Lake, 57 contenían algún tipo de defecto. Veinte eran lo que los tribunales ahora llaman alucinaciones: referencias aparentemente realistas, pero completamente inventadas, generadas por un modelo de IA que hizo conjeturas plausibles sobre lo que pedía el usuario y produjo citas convincentes, pero inexistentes.
Qué ocurrió durante los alegatos orales y después
Cuando un juez preguntó a Lake durante la audiencia de febrero cómo se habían producido los errores, este dijo que estaba celebrando su décimo aniversario de bodas, que su computadora se había estropeado mientras viajaba y que había subido la versión equivocada del escrito. Los jueces no consideraron convincente su explicación. El organismo disciplinario investigó y descubrió otra versión: Lake había utilizado IA para redactar el escrito y luego lo había negado ante el tribunal, lo que constituía una infracción de las normas de conducta profesional que exigen sinceridad ante el tribunal.
La opinión unánime de la Corte Suprema de Nebraska, emitida en marzo, rechazó el escrito y remitió a Lake para que fuera sometido a medidas disciplinarias. En ella, el tribunal afirmó claramente: «La IA, como otras herramientas tecnológicas, puede beneficiar a la comunidad jurídica, pero debe utilizarse con cautela y humildad». El tribunal señaló que los errores podrían haberse evitado fácilmente mediante una verificación básica en plataformas estándar de investigación jurídica y concluyó que Lake había incumplido su deber de sinceridad.
También te puede interesar: Noticias sobre ETF de Bitcoin: Goldman Sachs presenta ante la SEC una solicitud para un ETF de ingresos prémium de Bitcoin
El panorama más amplio de las sanciones
Nebraska no es un caso aislado. El investigador Damien Charlotin, de HEC París, que mantiene una base de datos de casos de alucinaciones de IA en procesos judiciales, ahora registra más de 1.200 casos en todo el mundo, aproximadamente 800 de ellos en tribunales estadounidenses. Ha descrito el ritmo como «diez casos de diez tribunales distintos en un solo día».
Oregón registra la mayor sanción total relacionada con errores en escritos de un solo abogado vinculados a la IA: 109.700 dólares. El Sexto Circuito impuso una multa de 30.000 dólares a dos abogados de Tennessee, la mayor sanción impuesta hasta ahora por un tribunal federal de apelaciones por citas inventadas. Si se confirma en una apelación, la suspensión indefinida de Nebraska sería la primera medida disciplinaria del colegio de abogados en Estados Unidos que suspende por completo el ejercicio profesional por errores en escritos relacionados con la IA, elevando las consecuencias de las sanciones económicas a la suspensión de la carrera profesional.
Por qué esto importa para el sector de la IA
Cada sanción legal de alto perfil relacionada con modelos de IA envía una señal regulatoria que determina cómo se permite utilizar estas herramientas en entornos profesionales. Para evaluar los riesgos de la IA en los sectores de inversión y tecnología, la respuesta de la profesión jurídica a las alucinaciones es el canario en la mina de carbón: define qué significa un «despliegue responsable» en el primer entorno regulado de alto riesgo en el que se han impuesto consecuencias. Los mercados de tokens de IA y de infraestructura de IA se enfrentarán a marcos regulatorios análogos a medida que esta misma lógica se extienda al asesoramiento financiero, las decisiones médicas y las aplicaciones gubernamentales de los mismos modelos subyacentes.
Leer más: Noticias sobre IA generativa: los hogares estadounidenses están reservando espacio en sus presupuestos para ChatGPT y las suscripciones de IA