Die Nachrichten über KI-Halluzinationen haben sich von einem Gerichtssaal-Ärgernis zu beruflichen Konsequenzen gewandelt, als der Oberste Gerichtshof von Nebraska entschied, den Anwalt Greg Lake aus Omaha bis auf Weiteres zu suspendieren, nachdem ein von ihm in einem Scheidungsberufungsbrief eingereichter Gerichtsentwurf 57 fehlerhafte Zitationen von insgesamt 63 enthielt, darunter 20 vollständig erfundene Fallreferenzen und vier völlig erfundene Fälle, die in keiner Gerichtsbarkeit existieren.

Zusammenfassung

• Lake sagte zunächst, dass er den falschen Entwurf hochgeladen habe, während er an seinem Hochzeitstag mit einem defekten Computer unterwegs war, gab aber später zu, KI verwendet zu haben, was der Nebraska Counsel for Discipline als Mangel an Offenheit gegenüber dem Gericht betrachtete.

• Der Fall stammt aus einem Scheidungsprozess im Jahr 2025, in dem der Zeitpunkt der Vermögensaufteilung und des Sorgerechts umstritten war, wobei Lake das Berufungsschreiben im Namen des Ehemanns einreichte, das dann mit fiktiven Details aus realen Nebraska-Fällen und völlig erfundenen Autoritäten durchsetzt war.

• Die Stellungnahme des Obersten Gerichtshofs von Nebraska stellte fest, dass die Fehler "leicht mit traditionellen juristischen Recherchediensten hätten entdeckt werden können" und beschrieb den Fall als ein "neues Problem für die Gerichte von Nebraska", das als öffentliche Warnung an alle Anwälte im Bundesstaat diente.

Die Nachrichten über AI-Halluzinationen haben die bisher schwerste berufliche Sanktion in den Vereinigten Staaten hervorgebracht, da der Oberste Gerichtshof von Nebraska am 15. April eine unbefristete Suspendierung des Anwalts Greg Lake verhängte, nachdem monatelange Verfahren begonnen hatten, als die Richter beim mündlichen Vortrag im Februar bemerkten, dass die Eingabe Fehler enthielt, die sie nicht mit irgendeinem veröffentlichten Rechtsprechung von Nebraska in Einklang bringen konnten.

Das Schreiben war in einer Scheidungsberufung eingereicht worden, die das Wirksamkeitsdatum für die Aufteilung von ehelichem Vermögen und Sorgerecht anfocht. Von 63 Zitationen, die Lake gemacht hatte, wiesen 57 eine Art von Mangel auf. Zwanzig waren das, was die Gerichte jetzt Halluzinationen nennen: realistisch aussehende, aber völlig fiktive Verweise, die von einem AI-Modell generiert wurden, das plausibel erriet, was der Benutzer verlangte, und überzeugend aussehende, aber nicht existierende Zitationen produzierte.

Was beim mündlichen Vortrag und danach passiert ist

Als ein Richter Lake während der Anhörung im Februar fragte, wie die Fehler aufgetreten seien, sagte er, er sei an seinem 10. Hochzeitstag gewesen, sein Computer sei während der Reise kaputtgegangen, und er habe die falsche Version des Schreibens hochgeladen. Die Richter fanden die Erklärung unüberzeugend. Der Rechtsberater für Disziplin untersuchte und fand einen anderen Bericht: dass Lake AI verwendet habe, um das Schreiben zu entwerfen, und dies dann dem Gericht verweigert habe, was einen Verstoß gegen die beruflichen Verhaltensregeln darstellt, die Aufrichtigkeit gegenüber dem Tribunal erfordern.

Die einstimmige Meinung des Obersten Gerichtshofs von Nebraska, die das Schreiben zurückwies und Lake im März zur Disziplin überwies, stellte klar fest: "AI, wie andere technologische Werkzeuge, kann der Rechtsgemeinschaft zugutekommen, muss jedoch mit Vorsicht und Demut eingesetzt werden." Das Gericht stellte fest, dass die Fehler mit grundlegenden Überprüfungen durch standardisierte juristische Rechercheplattformen leicht vermeidbar gewesen wären und stellte fest, dass Lake eine Verletzung seiner Pflicht zur Ehrlichkeit gezeigt hatte.

Das könnte Ihnen auch gefallen: Bitcoin ETF Nachrichten: Goldman Sachs beantragt Bitcoin Premium Einkommen ETF bei der SEC

Die breitere Landschaft der Sanktionen

Nebraska ist kein Einzelfall. Der Forscher Damien Charlotin von der HEC Paris, der eine Datenbank von AI-Halluzinationsfällen in rechtlichen Verfahren führt, verfolgt jetzt mehr als 1.200 solcher Fälle weltweit, davon etwa 800 aus US-Gerichten. Er hat das Tempo als "zehn Fälle aus zehn verschiedenen Gerichten an einem einzigen Tag" beschrieben.

Oregon hält die größte aggregierte Sanktion, die mit einem einzelnen Anwalt für AI-bezogene Einreichungsfehler verbunden ist, in Höhe von 109.700 $. Der sechste Kreis verhängte eine Geldstrafe von 30.000 $ gegen zwei Anwälte aus Tennessee, die größte bundesstaatliche Berufungssanktion, die bisher mit gefälschten Zitationen in Verbindung gebracht wurde. Die unbefristete Suspendierung von Nebraska, falls sie in einer Berufung bestätigt wird, wäre die erste Maßnahme zur Disziplinierung, die die Praxis vollständig wegen AI-bezogener Einreichungsfehler in den USA aussetzt, und würde die Konsequenzen von finanziellen Strafen auf die Suspendierung der Karriere ausweiten.

Warum das für den AI-Sektor wichtig ist

Jede hochkarätige rechtliche Sanktion im Zusammenhang mit AI-Modellen sendet ein regulatorisches Signal, das kalibriert, wie AI-Tools in professionellen Umgebungen verwendet werden dürfen. Bei Risikobewertungen von AI in der Investitions- und Technologielandschaft ist die Reaktion des Rechtsberufs auf Halluzinationen der Kanarienvogel im Kohlenbergwerk: Sie definiert, was "verantwortungsvolle Bereitstellung" in der ersten regulierten Umgebung mit hohen Einsätzen bedeutet, die Konsequenzen nach sich zieht. Die Märkte für AI-Token und AI-Infrastruktur werden ähnlichen regulatorischen Rahmenbedingungen gegenüberstehen, da die gleiche Logik auf finanzielle Beratung, medizinische Entscheidungen und staatliche Anwendungen derselben zugrunde liegenden Modelle ausgeweitet wird.

Lesen Sie mehr: Nachrichten über generative AI: US-Haushalte schaffen Platz in ihren Budgets für ChatGPT und AI-Abonnements