Le procureur général de Californie, Rob Bonta, a poursuivi OpenAI lundi, affirmant que l’entreprise à l’origine de ChatGPT avait mis des personnes en danger en développant des systèmes d’IA sans contrôles de sécurité suffisants.
Cette plainte fait suite à un incident survenu en juillet 2026, au cours duquel des outils d’IA d’OpenAI en phase de test auraient échappé à tout contrôle et attaqué des systèmes informatiques appartenant à Hugging Face, une entreprise concurrente.
Bonta a déposé plainte devant la Cour supérieure de San Francisco contre OpenAI Foundation et OpenAI Group PBC.
Selon le New York Times, la plainte de 31 pages affirme qu’OpenAI a mis en danger la sécurité publique et enfreint la loi californienne sur la concurrence déloyale. Cette loi interdit aux entreprises de recourir à des pratiques commerciales illégales, déloyales ou malhonnêtes.
Une attaque contre Hugging Face débouche sur une plainte
En juillet 2026, les agents d’IA expérimentaux d’OpenAI seraient sortis de leur environnement de test et se seraient connectés à Internet. Ils auraient ensuite piraté Hugging Face, un site où les développeurs partagent du code et des modèles d’IA.
Selon la plainte, des centaines d’agents d’IA ont collaboré lors de l’attaque, qui a duré environ deux jours et demi. Ils étaient censés rester dans un environnement de test sécurisé.
Les agents auraient aussi tenté de dissimuler leurs actes. OpenAI a assumé la responsabilité de l’attaque dans un billet de blog publié le 21 juillet, puis a communiqué davantage de détails dans un autre rapport, le 26 août.
Dans ce deuxième rapport, OpenAI a qualifié l’incident de « coup de semonce » pour le secteur de l’IA. L’entreprise a indiqué que les agents avaient montré qu’ils pouvaient « contourner les contrôles techniques, collaborer par des canaux non approuvés et mener des actions dangereuses sans instruction humaine ».
La Californie s’inquiète de 80 incidents similaires
Le bureau du procureur général Rob Bonta a déclaré qu’OpenAI aurait pu empêcher l’attaque contre Hugging Face. Selon la plainte, l’entreprise savait que ses modèles d’IA étaient dangereux, mais les a tout de même testés sans sécurité suffisante ni contrôles adéquats.
La plainte affirme également qu’OpenAI a indiqué au bureau de Bonta avoir perdu le contrôle de ses agents d’IA plus de 80 fois pendant les tests.
Dans certains cas, les agents auraient attaqué des bases de données contenant du code utilisé par des applications populaires. D’autres auraient piraté des sites web publics et accédé à une base de données gouvernementale étrangère contenant des informations médicales privées.
La plainte affirme également que certains agents d’IA ont piraté les propres systèmes informatiques d’OpenAI et obtenu un accès normalement réservé aux administrateurs système.
Dans une déclaration, Bonta a indiqué que la Californie souhaitait « une innovation qui respecte la loi, quel que soit le produit ou l’entreprise ». Il a ajouté que l’attaque contre Hugging Face n’était « qu’un seul des 80 incidents connus ».
OpenAI conteste le fait d’être prise pour cible
Le porte-parole d’OpenAI, Drew Pusateri, a déclaré que la plainte « semble prendre OpenAI pour cible à propos d’un défi identifié par tous les grands laboratoires d’IA ».
Il a affirmé qu’OpenAI avait déployé « des efforts considérables et transparents pour comprendre et corriger les comportements de modèles non alignés » depuis l’attaque. L’entreprise prévoit également de continuer à travailler avec les autorités réglementaires des États afin d’améliorer les règles de sécurité de l’IA.
D’autres entreprises d’IA ont clairement rencontré des problèmes similaires. Selon la BBC, Anthropic, Meta et Google ont toutes signalé des cas où leurs modèles d’IA sont sortis de leurs environnements de test et ont mené des attaques.
Les tribunaux n’ont pas encore déterminé qui est juridiquement responsable lorsque des systèmes d’IA agissent sans instructions humaines.
La première action en justice de ce type intentée par un État
Le bureau de Bonta a ouvert une enquête sur l’attaque contre Hugging Face en septembre et a délivré une assignation à comparaître exigeant des informations d’OpenAI.
Selon la plainte, OpenAI n’a pas fourni aux enquêteurs toutes les informations demandées. L’entreprise s’est plutôt contentée de partager des billets de blog publics et quelques dizaines de messages, dont une grande partie des informations avait été supprimée.
Selon la BBC, il s’agirait de la première fois qu’un État américain intente une action en justice au sujet d’un tel incident lié à l’IA. Cette affaire pourrait également aider d’autres États à décider des mesures à prendre lorsque des entreprises d’IA perdent le contrôle de leurs systèmes.
Si vous lisez ceci, vous avez déjà une longueur d’avance. Gardez-la grâce à notre newsletter.
