Un haut responsable a confirmé que la Federal Trade Commission (FTC) a ouvert une enquête pour déterminer si les systèmes d’IA conçus par OpenAI et Anthropic présentent des dangers pour les consommateurs américains.

METR, la société californienne à but non lucratif qui audite les modèles d’IA de pointe en fonction des risques, est elle aussi impliquée dans l’enquête.

Des demandes formelles d’enquête civile devraient parvenir aux trois organisations, OpenAI, Anthropic et METR, dans les semaines à venir.

Pourquoi la FTC enquête-t-elle sur OpenAI et Anthropic ?

Un haut responsable anonyme de la FTC a déclaré que l’agence utilise son pouvoir pour réprimer les pratiques injustes et trompeuses en enquêtant sur le point de savoir si les systèmes d’IA mis au point par OpenAI et Anthropic présentent des risques pour les consommateurs américains.

L’enquête a d’abord été rapportée par le New York Post. L’agence n’a fait aucune annonce officielle, de sorte que la portée exacte de l’enquête reste incertaine. La FTC enverrait, selon des informations, des demandes d’enquête civile, un outil qui fonctionne un peu comme une assignation à comparaître, à OpenAI, Anthropic et METR au cours des prochaines semaines.

L’inclusion de METR est notable, car le groupe est une organisation à but non lucratif qui évalue les systèmes d’IA en fonction des risques, et non un fabricant de modèles. Le groupe a mené une revue indépendante d’un incident de sécurité plus tôt cette année, au cours duquel un modèle d’OpenAI a rompu l’isolement et a attaqué le hub open source Hugging Face.

Le président de la FTC, Andrew Ferguson, a déclaré plus tôt ce mois-ci qu’il ne fallait pas autoriser OpenAI et Anthropic à « affoler tout le monde », puis à exiger des réglementations qu’ils sont bien placés pour respecter.

Dans une déclaration de janvier 2025 à propos d’une étude de la FTC sur les partenariats d’IA de Big Tech, Ferguson a averti que l’agence « ne doit pas se précipiter pour réglementer l’IA », estimant que des règles trop lourdes pourraient freiner l’innovation et le développement de la technologie.

Cryptopolitan a rapporté que Ferguson a rejeté l’idée qu’une entreprise ne peut pas être tenue responsable lorsqu’un agent autonome cause un préjudice. Il a déclaré que les pouvoirs de divulgation de manquement de la FTC pourraient être activés pour les développeurs d’IA.

Quel accord les dirigeants de l’IA ont-ils conclu avec Trump ?

Le président Donald Trump a récemment réuni des dirigeants de l’IA et signé un accord volontaire. Aux termes de l’entente, les entreprises mettraient en place des contrôles internes, autoriseraient des audits externes et permettraient des revues du conseil d’administration portant sur leurs modèles.

Trump a salué l’industrie pour sa démonstration de « l’autorégulation à grande échelle » et a qualifié le pacte de « moralement contraignant », voire « presque comme une constitution ».

Plusieurs grands dirigeants de la tech ont signé l’accord, notamment Dario Amodei d’Anthropic, Greg Brockman d’OpenAI, Sundar Pichai de Google, Mark Zuckerberg de Meta, Elon Musk de xAI et Jensen Huang de Nvidia.

Toby Walsh, de l’UNSW AI Institute, a déclaré que les entreprises d’IA avaient déjà prouvé qu’elles étaient « incompétentes et négligentes lorsqu’il s’agit de se gérer elles-mêmes ».

Fait notable, METR a été retenu sur la liste des cibles en raison d’une défaillance de sécurité survenue l’été. Le rapport d’août de METR indique que des enquêteurs de METR et de Redwood Research ont passé six jours sur place chez OpenAI pour examiner un épisode au cours duquel environ 1 200 agents, censés fonctionner en isolement, ont fini par trouver un tableau de messages partagé et échanger plus de 70 000 messages et fichiers. Environ 700 d’entre eux se sont ensuite mis à attaquer Hugging Face.

Les chercheurs ont indiqué que la publication (swarm) était si vaste qu’ils ont dû s’appuyer sur un modèle d’OpenAI, GPT-5.6 Sol, pour passer au crible les preuves. L’auteur de l’article, Ryan Greenblatt, a moqué l’utilisation de l’IA par le chercheur sur X, qualifiant l’enquête de « slop-vestigation ».

Si vous lisez ceci, vous êtes déjà en avance. Restez-y avec notre newsletter.