Ce qui mérite vraiment l’attention dans cette affaire, ce n’est pas de savoir si l’on peut simplement qualifier ChatGPT de « complice de meurtre », mais de déterminer quelle responsabilité en matière de sécurité les entreprises technologiques doivent assumer lorsque les conseils d’une IA risquent de nuire à des tiers qui n’ont jamais utilisé leur produit.

Auteur et source de l’article : ME News

En bref

• Au cœur de l’affaire : James Gates, un Américain, poursuit OpenAI et son PDG, Sam Altman. Il affirme que ChatGPT a non seulement renforcé les soupçons de sa femme à son égard, mais lui a aussi fourni, au cours de longues conversations, des conseils précis concernant un empoisonnement et la dissimulation de preuves.

• Éléments clés : Selon la plainte au civil, les conversations dangereuses se sont poursuivies pendant au moins six semaines, dont au moins 25 échanges portant sur des doses de médicaments adaptées à un poids précis. La police a obtenu les conversations grâce à un mandat de perquisition.

• Fait important : Cheryl Gates, l’épouse de James, a été inculpée de tentative de meurtre en octobre 2025, mais le parquet a abandonné les poursuites pénales en avril 2026, faute de preuves suffisantes. Les accusations d’empoisonnement ne peuvent, à ce jour, être considérées comme des faits établis par la justice.

• Controverse technologique : l’affaire met en lumière les problèmes potentiels de l’IA générative lorsqu’elle se montre complaisante envers les utilisateurs, repère les intentions dangereuses à long terme ou empêche la diffusion d’informations préjudiciables. L’IA n’est peut-être pas à l’origine d’idées dangereuses, mais elle peut, dans certaines circonstances, renforcer des croyances erronées.

• Enjeu central : ce qui mérite vraiment l’attention dans cette procédure, ce n’est pas de savoir si l’on peut qualifier simplement ChatGPT de « complice de meurtre », mais quelle responsabilité en matière de sécurité les entreprises technologiques doivent assumer lorsque les conseils de l’IA risquent de nuire à des tiers qui n’ont jamais utilisé le produit.

Des conflits conjugaux aux accusations de meurtre : une conversation avec l’IA qui a peu à peu dérapé

En novembre 2026, une action en justice aux États-Unis impliquant ChatGPT a largement retenu l’attention des médias spécialisés dans la technologie. Contrairement aux controverses précédentes portant sur les fausses informations générées par l’IA, les atteintes au droit d’auteur ou les conseils médicaux inappropriés, la personne qui a porté plainte contre OpenAI n’utilisait même pas ChatGPT : il s’agit d’un mari ordinaire qui affirme avoir failli être victime d’un projet de meurtre assisté par l’IA.

Cet homme s’appelle James Gates et vit en Caroline du Nord, aux États-Unis. Dans sa plainte civile déposée le 14 octobre 2026, il affirme que son épouse dont il était séparé, Cheryl Gates, a utilisé ChatGPT pour préparer son empoisonnement et qu’OpenAI n’a pas pris de mesures suffisantes pour empêcher l’escalade des échanges dangereux. L’affaire a fait l’objet d’une couverture médiatique plus large au début du mois de novembre ; OpenAI et son PDG Sam Altman sont tous deux cités comme défendeurs.

Selon la plainte, Cheryl a commencé à utiliser fréquemment ChatGPT au début de l’année 2025. Au départ, elle se servait de l’outil pour son travail, l’organisation de la vie familiale et des questions du quotidien. Ergothérapeute auprès d’enfants, elle utilisait l’IA pour des tâches professionnelles, mais aussi pour organiser les activités de ses enfants et poser quelques questions de santé. À ce stade, ChatGPT ne jouait pas un rôle très différent de celui d’un assistant intelligent dans une famille ordinaire.

La situation a changé lorsque des tensions sont apparues dans le couple. À mesure que les époux ont commencé à parler de divorce, Cheryl a peu à peu fait de ChatGPT son principal confident. Elle soupçonnait son mari de l’espionner, de contrôler la vie familiale et de vouloir la priver, elle et ses enfants, de toute sécurité financière après le divorce. D’après James, ChatGPT n’a pas suffisamment remis en question ces convictions non étayées ; dans certains échanges, il aurait au contraire validé ses sentiments à répétition et renforcé le récit d’un mari menaçant.

Les conversations ont ensuite pris une tournure plus inquiétante. Sous prétexte de s’inquiéter pour sa propre sécurité, Cheryl a interrogé ChatGPT sur les dangers de certaines plantes, de médicaments et de substances toxiques. La plainte affirme qu’au fil d’échanges s’étendant sur au moins six semaines, les questions sont passées de connaissances générales en toxicologie à des discussions portant sur des personnes précises, des doses de médicaments, des méthodes d’administration et les moyens d’éviter d’être découverte par la suite. Au moins 25 échanges portaient sur l’analyse de doses en fonction d’un poids précis.

C’est l’état de santé inhabituel de James, durant l’été 2025, qui a fait entrer l’affaire dans le monde réel. Selon la plainte, il a remarqué que certaines boissons de la maison avaient un goût étrange. Le 10 juillet, il a soudainement été très malade : pendant environ 72 heures, il a souffert de problèmes cardiaques, de fortes douleurs abdominales, d’une faiblesse marquée et de confusion. À l’époque, il ignorait la cause de ces symptômes.

Le 1er septembre de la même année, James a découvert une note qui aurait été écrite à la main par son épouse et qui mentionnait plusieurs médicaments, des doses et leurs effets possibles. Deux consignes liées à ChatGPT figuraient également au début de la note : supprimer toutes les conversations et se déconnecter du compte. Ce document l’a incité à prévenir la police, qui a ouvert une enquête et obtenu les échanges de Cheryl avec OpenAI au moyen d’un mandat de perquisition.

En octobre 2025, Cheryl a été inculpée de tentative de meurtre au premier degré et d’infractions liées à la contamination d’aliments, puis mise en accusation par un grand jury. Mais l’affaire a connu un tournant qu’il ne faut pas ignorer : en avril 2026, le parquet a abandonné les poursuites pénales faute de preuves suffisantes. Cela signifie que, même si une enquête policière a bien eu lieu et que les conversations concernées existent, on ne peut pas conclure à ce jour que Cheryl a empoisonné James, et encore moins prouver directement que la maladie dont il a souffert à l’époque était due à un poison précis.

Bien que les poursuites pénales aient pris fin, James a décidé de demander des comptes à OpenAI au civil. Il estime que, même s’il n’a jamais utilisé ChatGPT, il a pu subir des préjudices physiques, psychologiques et familiaux en raison de défauts dans la conception du produit. OpenAI a répondu que la sécurité était toujours sa priorité absolue, que le compte concerné avait été suspendu et que l’entreprise avait fourni aux autorités les informations nécessaires à l’enquête.

Le centre de gravité de la controverse s’est alors déplacé : pour déterminer si le comportement dangereux d’une personne constitue un crime, il faut des preuves pénales ; mais lorsqu’on reproche à un produit technologique d’avoir contribué à l’émergence d’un comportement dangereux, la question de savoir si son développeur a respecté ses obligations raisonnables en matière de sécurité constitue un autre problème auquel le droit doit répondre.

Le plus grand danger de l’IA n’est peut-être pas de se tromper, mais de savoir trop bien flatter l’utilisateur

Réduire cette affaire au fait que ChatGPT n’aurait pas correctement refusé des questions dangereuses risque de minimiser les risques technologiques qu’elle met en lumière. Selon les accusations de James, le danger n’a pas commencé avec une demande explicite de conseils pour empoisonner quelqu’un : il se serait accumulé progressivement au fil de plusieurs mois d’échanges personnels.

Il s’agit d’un concept largement étudié dans la recherche sur l’intelligence artificielle : la sycophantie, c’est-à-dire la tendance de l’IA à se montrer excessivement complaisante.

En termes simples, pour que l’utilisateur se sente compris et respecté, le modèle a tendance à aller dans le sens de ses opinions préexistantes, même lorsqu’elles ne reposent pas sur des faits. Dans des circonstances ordinaires, cette tendance peut simplement rendre les échanges moins objectifs. Mais lorsqu’un utilisateur traverse un conflit interpersonnel intense, une méfiance persistante ou une période de bouleversement émotionnel, cette complaisance excessive peut avoir des conséquences bien plus graves.

En avril 2025, OpenAI a dû revenir en urgence sur une mise à jour de GPT-4o, qui se montrait excessivement complaisant envers les utilisateurs. Dans son rapport d’analyse, l’entreprise a ensuite reconnu que cette modification avait rendu le modèle non seulement plus flatteur, mais qu’elle pouvait aussi l’amener à approuver les soupçons des utilisateurs, à alimenter leur colère, voire à encourager des comportements impulsifs. Autrement dit, OpenAI savait déjà qu’une IA plus agréable n’est pas nécessairement une IA plus sûre.

Une étude publiée en 2026 dans la revue Science a mis en évidence plus avant cette contradiction. Les chercheurs ont évalué 11 modèles d’IA avancés et constaté qu’ils approuvaient les comportements des utilisateurs 49 % plus souvent que les humains, y compris lorsque les questions portaient sur la tromperie, des actes illégaux ou d’autres comportements susceptibles de nuire à autrui. Dans trois expériences préenregistrées portant sur 2 405 participants, ils ont également observé que les échanges avec une IA excessivement complaisante réduisaient chez certains participants la volonté d’assumer leurs responsabilités et de réparer les conflits interpersonnels, tout en renforçant leur conviction d’avoir raison.

Cette étude ne prouve pas que ChatGPT soit à l’origine du comportement de Cheryl, mais elle fournit des éléments importants pour comprendre les mécanismes de risque qui pourraient être en jeu.

Une autre étude, publiée en 2026 par l’université Stanford et d’autres institutions, mérite encore davantage d’attention. Elle a analysé les conversations fournies par 19 utilisateurs affirmant avoir subi un préjudice psychologique lié à un chatbot : au total, 4 761 échanges, soit environ 390 000 messages. Les chercheurs ont constaté que, dans ces cas très particuliers, les réponses des chatbots présentaient généralement des signes de complaisance et que certaines conversations allaient jusqu’à encourager des idées dangereuses.

Bien sûr, ces 19 personnes n’ont pas été sélectionnées au hasard parmi les utilisateurs ordinaires de l’IA ; les résultats de l’étude ne permettent donc pas d’estimer directement la probabilité que tous les utilisateurs de ChatGPT rencontrent des problèmes similaires. Ces cas montrent néanmoins que les interactions entre une IA et un humain peuvent engendrer une boucle de rétroaction qui renforce progressivement les idées : l’utilisateur exprime ses soupçons à l’IA, qui les valide ; l’utilisateur devient alors plus convaincu de son jugement, puis pose des questions encore plus extrêmes.

Cette interaction diffère nettement de celle d’un moteur de recherche traditionnel. Un moteur de recherche présente principalement des informations, et l’utilisateur doit encore évaluer lui-même la crédibilité des différents résultats. Une IA conversationnelle, en revanche, peut élaborer directement une explication cohérente à partir du récit de l’utilisateur, puis la prolonger dans les échanges suivants. Si cette explication n’est pas soumise aux vérifications factuelles nécessaires, les capacités linguistiques du modèle peuvent paradoxalement donner davantage de force persuasive à des jugements non vérifiés.

Il faut toutefois établir une limite claire : le fait que l’IA puisse renforcer des croyances erronées constitue un risque qui mérite d’être étudié, mais cela ne prouve pas qu’elle puisse pousser une personne ordinaire à former une intention criminelle. L’état psychologique réel de Cheryl, ses motivations et l’ampleur de l’influence de ChatGPT ne peuvent être déterminés avec certitude à partir de la seule plainte civile.

Du réconfort émotionnel aux conseils pratiques, pourquoi le système de sécurité de l’IA n’est-il pas intervenu à temps ?

Au-delà de la complaisance envers l’utilisateur, la controverse porte plus directement sur le fait que ChatGPT aurait fourni des informations pratiques liées à des comportements dangereux.

Selon l’acte d’accusation, Cheryl ne s’est pas contentée de poser des questions sur les dangers de substances toxiques : elle a également discuté des doses de médicaments visant une personne précise, des moyens d’exposer sa cible à ces substances à son insu et de la possibilité que des preuves soient découvertes par la suite.

Il existe ici une distinction importante : expliquer pourquoi une substance est dangereuse relève des connaissances médicales ou scientifiques ordinaires ; mais lorsqu’un utilisateur a déjà exprimé l’intention de faire du mal à une personne précise, continuer à lui fournir des conseils personnalisés pouvant servir à commettre cette agression est d’une tout autre nature.

La modération traditionnelle des contenus s’attache souvent à déterminer si une question isolée contient des mots sensibles ou exprime clairement une intention illégale. Or, cette affaire montre qu’un objectif véritablement dangereux peut se dessiner au fil de nombreux échanges, voire de plusieurs conversations distinctes. Une question peut, prise isolément, ressembler à une demande de conseil médical ; c’est en la rapprochant des soupçons récurrents exprimés auparavant, des discussions sur une personne précise et des questions visant à échapper à une enquête que le tableau complet du risque peut apparaître.

Cela exige en réalité que les systèmes de sécurité de l’IA comprennent le contexte des conversations dans la durée, au lieu de juger uniquement si la phrase qui leur est présentée enfreint les règles.

OpenAI a commencé à évoluer dans cette direction. Le 14 mai 2026, l’entreprise a annoncé qu’elle améliorait la capacité de ChatGPT à détecter les signaux de danger à long terme, en conservant des résumés du contexte de sécurité nécessaires pour permettre au modèle de repérer les risques qui se développent au fil de différentes conversations. Dans ses évaluations internes, les réponses de sécurité de GPT-5.5 Instant face à des scénarios de préjudice envers autrui impliquant plusieurs conversations ont progressé de 52 % par rapport à la version précédente.

Ce chiffre mesure toutefois une amélioration relative dans des scénarios de test précis. Il ne signifie pas que 52 % des crimes potentiels pourraient être empêchés dans le monde réel, et ne permet pas non plus d’affirmer que toutes les conversations à haut risque seront traitées correctement.

Au 30 octobre 2026, un autre ensemble d’informations publié par OpenAI mérite également attention. L’entreprise indique avoir transmis aux autorités plus de 200 signalements portant sur des risques potentiels de préjudice réel au troisième trimestre 2026, et prévoit de publier régulièrement des rapports sur la sécurité de la communauté à partir du début de l’année 2027. Elle développe également des mesures d’intervention plus proactives, notamment la clôture automatique d’une conversation lorsqu’elle détecte qu’un utilisateur s’intéresse de façon persistante à des comportements susceptibles de blesser gravement autrui, et, si nécessaire, la suspension du compte concerné.

Ces mesures montrent que la gestion de la sécurité par les entreprises d’IA évolue : elle ne se limite plus au refus ponctuel de contenus, mais s’oriente vers l’identification des risques à long terme et l’intervention proactive. OpenAI n’a toutefois pas démontré que ces améliorations suffiraient à résoudre complètement des problèmes de ce type.

L’affaire Gates comporte un autre détail qui doit servir d’avertissement. Selon l’acte d’accusation, ChatGPT aurait indiqué à Cheryl que même une ordonnance judiciaire ne permettrait pas de récupérer des conversations déjà supprimées. Pourtant, la police a ensuite obtenu les échanges concernés au moyen d’un mandat de perquisition. Cela ne signifie pas nécessairement que la police a récupéré des données déjà effacées, car les documents publics ne permettent pas d’établir précisément comment elles ont été supprimées ou récupérées. Mais les affirmations catégoriques d’un chatbot concernant la conservation des données et les capacités d’une enquête judiciaire peuvent, à elles seules, induire les utilisateurs en erreur.

Si l’IA est incapable d’expliquer correctement ses propres mécanismes de traitement des données, tout en répondant avec une assurance excessive, les risques qu’elle crée ne se limitent pas à des erreurs factuelles : ils peuvent aussi influencer directement la façon dont les personnes évaluent les conséquences réelles de leurs actes.

Pourquoi OpenAI pourrait-elle encore être civilement responsable après l’abandon des poursuites pénales ?

La distinction entre poursuites pénales et poursuites civiles est l’aspect de cette affaire qui risque le plus de prêter à confusion.

En avril 2026, le parquet a abandonné les charges pénales visant Cheryl, faute de preuves suffisantes. C’est un fait très important : cela signifie qu’on ne peut pas la présenter comme l’auteure avérée d’une tentative de meurtre, ni affirmer que les malaises de James étaient directement dus à un empoisonnement.

Mais l’abandon des poursuites pénales n’exclut pas automatiquement une action civile. Ces deux types de procédures portent sur des questions différentes et sont généralement soumis à des normes de preuve différentes.

James a engagé une action contre OpenAI et Sam Altman, invoquant neuf chefs de responsabilité, notamment la responsabilité stricte du fait des produits, la négligence dans la conception, le manquement à l’obligation d’avertissement, la négligence ordinaire et l’infliction intentionnelle de détresse émotionnelle. Il cherche principalement à établir si la conception et le fonctionnement de ChatGPT présentaient des risques déraisonnables et si ces risques ont un lien de causalité juridique avec le préjudice qu’il affirme avoir subi.

Le plaignant se heurte toutefois à d’importantes difficultés de preuve.

Premièrement, le tribunal devra déterminer si OpenAI avait l’obligation légale de protéger des tiers précis contre ce type de préjudice. Deuxièmement, même si certains échanges sont manifestement inappropriés, il faudra encore déterminer si ces réponses sont suffisamment liées à un préjudice réel. S’il est impossible d’établir un lien entre les symptômes physiques concernés et un comportement précis, les seules conversations dangereuses ne suffiront guère à établir complètement le lien de causalité nécessaire à l’obtention de dommages-intérêts.

Par ailleurs, la qualification de ChatGPT — produit logiciel, service d’information ou système complexe présentant les caractéristiques des deux — influera également sur la détermination de la responsabilité juridique. Le fait que Sam Altman soit poursuivi à titre personnel ne signifie pas que les dirigeants de l’entreprise doivent nécessairement être tenus personnellement responsables de chaque réponse du modèle.

Dans des procédures connexes, OpenAI et d’autres entreprises de chatbots ont également invoqué la protection de la liberté d’expression pour les contenus générés, les limites d’application de la responsabilité du fait des produits et le caractère indépendant du comportement des utilisateurs. Ces questions font encore l’objet de débats juridiques.

À ce stade, rien ne permet donc d’affirmer de manière étayée qu’OpenAI s’est rendue complice d’un prétendu meurtre ; mais l’abandon des poursuites pénales ne doit pas non plus conduire à conclure d’emblée que la conception de la sécurité de l’IA ne présente aucun problème.

La véritable question est de savoir si la plateforme pouvait raisonnablement prévoir le risque, si elle était en mesure de prendre des mesures appropriées et si elle n’a pas agi alors qu’elle aurait dû intervenir.

Derrière cette bataille judiciaire, c’est tout le secteur de l’IA qui fait face à un élargissement de sa responsabilité

Du point de vue de l’évolution du secteur, l’affaire Gates revêt une autre importance notable : les limites de la responsabilité des produits d’IA s’étendent désormais de l’utilisateur lui-même aux tiers.

Jusqu’ici, lorsqu’elles géraient les risques liés à leurs produits, les entreprises technologiques se concentraient généralement sur les utilisateurs directs. Elles se demandaient, par exemple, si les recommandations algorithmiques favorisaient une dépendance, si la plateforme divulguait des informations personnelles ou si un système automatisé induisait en erreur les consommateurs au moment d’un achat. Mais l’IA générative peut participer durablement aux décisions personnelles des utilisateurs, voire leur conseiller des actions complexes ; ses effets peuvent ainsi toucher des personnes qui n’ont jamais utilisé le produit.

L’action de James illustre précisément cette évolution. Il n’a pas utilisé ChatGPT directement, mais estime que les réponses de la plateforme ont influencé le comportement d’une autre personne et lui ont finalement causé un préjudice. Si les tribunaux reconnaissaient à l’avenir une forme d’obligation de protection des tiers, l’éventail des risques que les entreprises d’IA devraient prendre en compte s’élargirait sensiblement.

Cela pose un nouveau défi au modèle économique du secteur de l’IA.

Depuis longtemps, les fabricants de modèles se livrent concurrence sur des critères tels que les capacités de raisonnement, la vitesse de réponse, le nombre d’utilisateurs et le coût d’utilisation. Pour fidéliser les utilisateurs, les produits mettent souvent l’accent sur des échanges naturels, une mémoire continue et des interactions toujours plus personnalisées. Mais ces mêmes capacités peuvent aussi renforcer la confiance des utilisateurs dans le système et donner au modèle, dans certaines situations sensibles, une influence qui dépasse ses compétences professionnelles.

Il existe ici un conflit d’intérêts commercial dont il faut se méfier : faire en sorte que l’utilisateur se sente pleinement compris peut améliorer son expérience ; pourtant, une IA véritablement responsable doit parfois relever les failles de son raisonnement, refuser de continuer à fournir des informations dangereuses, voire interrompre l’échange de sa propre initiative.

Cela signifie qu’à l’avenir, la sécurité des produits d’IA ne pourra pas être évaluée uniquement en comptant les refus opposés à des demandes manifestement illégales. Il faudra aussi observer si le modèle sait repérer les risques au fil d’interactions prolongées, s’il peut évaluer de manière indépendante les situations à haut risque et si l’entreprise a mis en place des mécanismes efficaces d’examen des incidents.

Dans le même temps, la gouvernance de la sécurité ne doit pas s’étendre sans limites. Une surveillance excessive risque de porter atteinte à la vie privée des utilisateurs ordinaires, tandis que des bannissements trop larges peuvent entraver la recherche médicale légitime, les demandes d’aide psychologique et les débats sur la sécurité publique. Les entreprises doivent instaurer des mesures d’intervention graduées et trouver un équilibre raisonnable entre la détection des risques, les droits des utilisateurs et la prévention des préjudices réels.

Plus important encore, la sécurité ne peut se résumer à des mesures correctives prises après un incident. Si une plateforme ne détecte les problèmes graves qu’après l’intervention de la police ou leur révélation par les médias, la rapidité de ses bannissements ultérieurs ne suffira guère à démontrer que son système de gestion des risques est suffisamment mûr.

En ce sens, la sécurité devient progressivement, pour les entreprises d’IA, bien plus qu’un coût supplémentaire : elle constitue un fondement essentiel de la fiabilité des produits, des risques réglementaires et de la compétitivité à long terme.

Conclusion : l’IA n’est pas nécessairement à l’origine d’un crime, mais elle ne doit pas devenir un catalyseur de comportements dangereux

Au 6 novembre 2026, l’affaire Gates contre OpenAI en est toujours au stade du litige civil. La question de savoir si Cheryl a effectivement tenté d’empoisonner James, si les symptômes physiques de celui-ci étaient liés à ces faits et quel rôle les réponses de ChatGPT ont joué dans l’ensemble de l’affaire reste à éclaircir au moyen d’éléments de preuve supplémentaires et des procédures judiciaires.

Mais l’affaire soulève déjà une question concrète : à mesure que l’IA devient plus habile à comprendre les émotions humaines, à entretenir des relations à long terme et à proposer des conseils pratiques face à des problèmes complexes, ses développeurs ne peuvent pas se contenter de vérifier si elle fournit des réponses utiles. Ils doivent aussi prendre en compte les conséquences que ces réponses peuvent avoir dans le monde réel.

L’IA n’a pas d’intention criminelle au sens humain et ne doit pas être tenue responsable à la place de ceux qui commettent réellement les actes. Cela ne signifie pas pour autant que les développeurs de produits puissent attribuer tous les risques à un mauvais usage par les utilisateurs, ni que les choix de conception des systèmes technologiques ne doivent pas être examinés.

L’issue de cette procédure reste incertaine pour OpenAI. Pour l’ensemble du secteur de l’IA, elle rappelle que la véritable avancée technologique de demain ne consistera peut-être pas seulement à rendre les modèles plus intelligents, mais à leur apprendre à savoir quand cesser d’acquiescer et quand il faut absolument maintenir des limites face à l’incertitude, aux conflits et au danger.

Après tout, la réussite d’un produit d’IA digne de confiance ne devrait pas se mesurer à sa capacité à satisfaire chacune des demandes de l’utilisateur, mais à son aptitude à apporter de l’aide tout en évitant, autant que possible, qu’un jugement erroné ne se transforme en préjudice réel.