Un avocat du Nouveau-Mexique, chargé de défendre un homme accusé de meurtre, a utilisé ChatGPT. Il a ensuite déposé un mémoire devant la Cour suprême du Nouveau-Mexique contenant de fausses déclarations de policiers et des témoignages inventés.
La Cour suprême du Nouveau-Mexique a estimé que l’avocat Stephen Aarons n’avait pas vérifié le contenu généré par l’IA. Les juges ont déclaré que le document « contenait un faux témoignage provenant de témoins entièrement fabriqués ».
Le tribunal a déclaré Stephen en outrage à la cour mercredi et lui a ordonné de payer 5 000 $. Son comportement sera également examiné par une commission disciplinaire des avocats. Les juges ont indiqué que Stephen avait « fait preuve d’un manque de remords et d’un manque de préoccupation pour son client ».
Stephen a déclaré qu’il avait utilisé ChatGPT l’année dernière pour condenser le dossier du procès après avoir formé l’appel. Il a dit qu’il ne réalisait pas jusqu’où pouvaient aller les « hallucinations » de l’IA, ni avec quelle assurance le logiciel pouvait produire des faits qui n’ont jamais eu lieu.
Des juges du Nouveau-Mexique punissent Stephen après que ChatGPT a inventé un témoignage dans le cadre de l’appel pour le meurtre d’Oscar
Stephen, un avocat privé basé à Santa Fe, a représenté Oscar Renee Sandoval. Oscar a plaidé non coupable d’avoir tué la mère de ses enfants. Il a ensuite été reconnu coupable et condamné à la prison à vie l’an dernier. Son appel reste en attente.
Stephen aurait dit aux journalistes que l’erreur était honnête. « Je suis désolé, mais j’espère que la commission disciplinaire tiendra compte du fait qu’il s’agissait d’une erreur honnête », a-t-il déclaré. « C’est une leçon pour tous les professionnels qui s’appuient sur cette technologie puissante mais parfois instable. »
Plusieurs avocats ont déjà fait l’objet de sanctions pour une assistance non contrôlée par l’IA. Des affaires ont été engagées contre des avocats devant des tribunaux étatiques et fédéraux en raison de mémoires contenant de faux dossiers, des références et des dispositions juridiques mal citées.
La demande de Stephen se distingue dans cette catégorie car elle inclut de fausses déclarations de témoins dans le cadre d’une procédure d’appel.
L’affaire d’Oscar a été transférée à Kim Chavez Cook, un avocat commis d’office du Nouveau-Mexique, le 2 septembre. Kim s’occupe désormais de l’appel pendant que l’affaire reste ouverte.
La famille de Tiru poursuit OpenAI pendant que des responsables de Floride examinent 16 000 échanges sur ChatGPT liés à la fusillade de l’FSU
L’autre bataille judiciaire concerne ChatGPT, à la suite de la fusillade à l’université d’État de Floride. Un avocat représentant la famille de la défunte, Tiru Chabba, a poursuivi OpenAI, ChatGPT et Phoenix Ikner devant un tribunal fédéral.
L’affaire a été déposée le dimanche devant la United States District Court du Northern District of Florida. Il est allégué qu’OpenAI aurait dû prendre des mesures dans cette situation.
Les responsables de l’application de la loi en Floride ont publié les transcriptions de ChatGPT de Phoenix. Celles-ci contiennent des questions sur la façon d’utiliser une arme à feu, sur la couverture médiatique, sur le moment le plus fréquenté à l’FSU, sur la fusillade de Columbine et sur le fait de devenir infâme.
L’avocat de la famille de Tiru, Bakari Sellers, a déclaré que les échanges remontent à environ 18 mois et représentent au total près de 16 000 « conversations inquiétantes ».
« C’est la même personne qui a demandé, vous savez, comment il peut devenir infâme ? Il a demandé au sujet de la fusillade de Columbine. Il a demandé à quelle heure il devrait aller sur le campus. À quelle heure la plupart des gens vont-ils y être ? », a déclaré Bakari.
« Il a littéralement utilisé l’open AI et Chat GPT comme son co- conspirateur, en l’utilisant comme ressource pour commettre un massacre », a ajouté Bakari. « Il n’y avait rien en place pour empêcher que cela se produise, et donc des vies ont été perdues. Il y a un danger inhérent : il faut quelque chose en place pour empêcher que cela se produise. »
OpenAI a rejeté toute responsabilité pour la fusillade. Le porte-parole Drew Pusateri a déclaré que l’entreprise avait trouvé un compte jugé lié à Phoenix après avoir appris ce qui s’était passé et qu’elle avait partagé proactivement l’information avec la police. Drew a ajouté qu’OpenAI coopère toujours avec les autorités.
« La fusillade de masse de l’an dernier à l’université d’État de Floride est une tragédie, mais ChatGPT n’est pas responsable de ce crime terrible », a déclaré Drew.
Il a dit que ChatGPT avait répondu avec des éléments factuels déjà largement disponibles grâce à des sources publiques sur Internet et qu’il n’avait pas encouragé un comportement illégal ou nuisible. Drew a également mentionné que des centaines de millions de personnes utilisent ChatGPT chaque jour pour des raisons valables.
Selon Drew, OpenAI améliore constamment ses outils pour aider à reconnaître les intentions des utilisateurs, prévenir les mésusages et agir en cas de préoccupations concernant la sécurité.
Le procès actuel fait suite à une affaire similaire en Floride. Le procureur général James Uthmeier a récemment révélé que l’enquête criminelle avait été lancée contre OpenAI et ChatGPT par le Bureau de la poursuite à l’échelle de l’État.
Si vous lisez ceci, vous êtes déjà en avance. Restez-y avec notre newsletter.