Les hallucinations d'IA sont passées de l'embarras en salle d'audience à des conséquences professionnelles alors que la Cour suprême du Nebraska a décidé de suspendre l'avocat d'Omaha Greg Lake jusqu'à nouvel ordre, après qu'une note qu'il a soumise dans un appel de divorce contenait 57 citations défectueuses sur 63, y compris 20 références de cas entièrement fabriquées et quatre cas complètement inventés qui n'existent dans aucune juridiction.

Résumé

• Lake a initialement dit aux juges qu'il avait téléchargé la mauvaise version de la note tout en voyageant pour son anniversaire de mariage avec un ordinateur cassé, mais a ensuite admis avoir utilisé l'IA, ce que le Conseil du Nebraska pour la Discipline a jugé constituer un manquement à la franchise envers le tribunal.

• L'affaire est née d'un procès de divorce en 2025 contestant le timing de la division des actifs et de la garde des enfants, Lake déposant le mémoire d'appel au nom du mari, le mémoire étant alors truffé de détails fictifs tirés de véritables affaires du Nebraska et d'autorités entièrement inventées.

• L'opinion de la Cour suprême du Nebraska a noté que les erreurs "auraient pu être facilement découvertes en utilisant des services de recherche juridique traditionnels" et a décrit l'affaire comme présentant "une question nouvelle pour les tribunaux du Nebraska", servant d'avertissement public à tous les avocats de l'État.

Les nouvelles sur les hallucinations de l'IA ont produit sa sanction professionnelle la plus sévère aux États-Unis à ce jour, alors que la Cour suprême du Nebraska a prononcé une suspension indéfinie de l'avocat Greg Lake le 15 avril, après des mois de procédures qui ont commencé lorsque les juges, lors de l'audience de février, ont remarqué que le mémoire contenait des erreurs qu'ils ne pouvaient pas concilier avec le droit des cas du Nebraska publié.

Le mémoire avait été déposé dans un appel de divorce contestant la date effective pour la division des actifs matrimoniaux et la garde des enfants. Sur 63 citations faites par Lake, 57 contenaient une forme de défaut. Vingt étaient ce que les tribunaux appellent maintenant des hallucinations : des références semblant réalistes mais entièrement fabriquées générées par un modèle d'IA qui devinait de manière plausible ce que l'utilisateur demandait et produisait des citations convaincantes mais inexistantes.

Ce qui s'est passé lors de l'audience et après

Lorsqu'un juge a demandé à Lake lors de l'audience de février comment les erreurs avaient eu lieu, il a déclaré qu'il était en train de célébrer son dixième anniversaire de mariage, que son ordinateur avait cassé pendant le voyage, et qu'il avait téléchargé la mauvaise version du mémoire. Les juges ont trouvé l'explication peu convaincante. Le Conseil de discipline a enquêté et a trouvé un compte différent : que Lake avait utilisé l'IA pour rédiger le mémoire et avait ensuite nié cela au tribunal, ce qui constituait une violation des règles de conduite professionnelle exigeant de la franchise envers le tribunal.

L'opinion unanime de la Cour suprême du Nebraska rejetant le mémoire et renvoyant Lake pour discipline en mars a déclaré clairement : "L'IA, comme d'autres outils technologiques, peut être un avantage pour la communauté juridique, mais elle doit être utilisée avec prudence et humilité." La cour a déclaré que les erreurs étaient facilement évitables avec une vérification de base via des plateformes de recherche juridique standard et a constaté que Lake avait montré un manquement à son devoir de franchise.

Vous pourriez aussi aimer : Actualités ETF Bitcoin : Goldman Sachs dépose une demande pour un ETF de revenu premium Bitcoin auprès de la SEC

Le paysage plus large des sanctions

Le Nebraska n'est pas un cas isolé. Le chercheur Damien Charlotin à HEC Paris, qui maintient une base de données des cas d'hallucinations d'IA dans les procédures juridiques, suit maintenant plus de 1 200 de tels cas dans le monde, dont environ 800 provenant des tribunaux américains. Il a décrit le rythme comme atteignant "dix cas de dix tribunaux différents en une seule journée."

L'Oregon détient la plus grande sanction agrégée liée à un seul avocat pour des erreurs de dépôt liées à l'IA, s'élevant à 109 700 $. Le Sixième Circuit a imposé une amende de 30 000 $ à deux avocats du Tennessee, la plus grande sanction fédérale d'appel liée à des citations fabriquées. La suspension indéfinie du Nebraska, si elle est confirmée lors d'un appel, serait la première action disciplinaire de barre à suspendre entièrement la pratique en raison d'erreurs de dépôt liées à l'IA aux États-Unis, faisant passer les conséquences des pénalités financières à la suspension de carrière.

Pourquoi cela compte pour le secteur de l'IA

Chaque sanction juridique de haut niveau liée aux modèles d'IA envoie un signal réglementaire qui calibre la manière dont les outils d'IA peuvent être utilisés dans des contextes professionnels. Pour les évaluations des risques liés à l'IA dans le paysage des investissements et de la technologie, la réponse de la profession juridique aux hallucinations est le canari dans la mine de charbon : elle définit ce que signifie "déploiement responsable" dans le premier environnement réglementé à enjeux élevés à produire des conséquences. Les marchés des tokens d'IA et des infrastructures d'IA feront face à des cadres réglementaires analogues alors que la même logique s'étend aux conseils financiers, aux décisions médicales et aux applications gouvernementales des mêmes modèles sous-jacents.

Lisez-en plus : Nouvelles sur l'IA générative : les ménages américains dégagent de l'espace dans leurs budgets pour ChatGPT et les abonnements à l'IA