La Commission irlandaise de protection des données (DPC) a contraint X à cesser d’entraîner ses modèles à partir des données recueillies par les agents d’IA de Grok Bot.

C’est la deuxième fois en deux ans environ que l’autorité de régulation interrompt un flux de données alimentant Grok.

La première fois, c’était en 2024, et les données concernées étaient alors les publications publiques des utilisateurs de l’UE. Cette fois, il s’agit d’informations recueillies par Grok Bot, l’agent d’IA de X, lorsqu’il agissait au nom d’utilisateurs sur des applications et des sites web.

Des publications des utilisateurs aux informations que les agents recueillent sur les autres

X a suspendu le traitement après que la DPC a signalé des « préoccupations importantes » ces dernières semaines, selon le commissaire Dale Sunderland.

Les données dites de tiers étaient collectées par Grok Bot depuis fin octobre et intégrées aux systèmes d’entraînement de X.

« Nous leur avons demandé de suspendre le traitement, et ils nous ont confirmé aujourd’hui qu’ils l’avaient fait », a déclaré Sunderland lors d’un entretien lundi.

Sunderland, qui est l’un des trois co-commissaires de l’autorité, a décrit les données de tiers comme des informations personnelles concernant une personne sans lien avec l’utilisateur de l’agent.

Il a donné un exemple pour illustrer son propos : des photos de vacances qu’une personne partage avec un ami, qui utilise ensuite un agent d’IA. Cela couvre également tout ce qu’un agent récupère sur le Web ouvert. 

Selon Sunderland, le régulateur ne s’oppose pas à l’IA en elle-même. Il se demande si les entreprises derrière ces agents respectent la loi lorsqu’elles utilisent les données qu’elles ont recueillies pour entraîner leurs modèles.

Un régulateur qui a déjà traîné Grok en justice

En 2024, la DPC a poussé X à exclure de l’entraînement de Grok les publications publiques des utilisateurs de l’UE et de l’EEE. X a accepté de suspendre le traitement des publications utilisées entre le 7 mai et le 1er août 2024, et s’est engagée auprès de la Haute Cour d’Irlande.

La commission a officiellement clos l’affaire le 4 septembre 2024, après que X a accepté de mettre définitivement fin à cette pratique. C’était la première fois que la DPC saisissait la justice pour faire cesser une pratique liée aux données.

Cependant, l’année suivante, le régulateur ne s’est pas reposé sur ses lauriers : il a ouvert une enquête distincte sur X Internet Unlimited Company afin de déterminer si l’entraînement de Grok à partir de publications publiques était conforme au RGPD.

La DPC peut infliger des amendes allant jusqu’à 4 % du chiffre d’affaires mondial d’une entreprise, et le montant total de ses sanctions passées contre Meta avoisine les 3 milliards d’euros.

L’Irlande est membre de l’UE et sa capitale, Dublin, accueille les sièges européens de grandes entreprises technologiques, notamment Apple, Google, Meta, OpenAI et X.

Compte tenu de sa position au sein de l’Union, les mesures prises par ses régulateurs ont des conséquences considérables, car elles peuvent donner le ton dans toute l’Union.

Sunderland a déclaré que la DPC discutait également avec une autre entreprise technologique, dont le nom n’a pas été communiqué, de projets d’entraînement à partir de données collectées par des agents. « C’est un sujet d’actualité brûlant en ce moment », a-t-il dit.

Les agents qui se connectent à votre place font déjà des vagues

L’Irlande n’est pas la seule à s’inquiéter des capacités des agents qui se connectent au nom d’un utilisateur. Les entreprises elles-mêmes se méfient désormais des problèmes que cela soulève. Amazon aurait bloqué Grok Bot sur sa plateforme, et son fichier robots.txt interdit l’accès aux agents associés à Grok, ChatGPT, Claude, Copilot, Perplexity, Manus ainsi qu’aux robots d’exploration de Google. 

Amazon a également poursuivi Perplexity en justice, l’accusant d’accéder discrètement à des comptes clients privés par l’intermédiaire de son agent de navigation Comet, ce que Perplexity conteste.

La DPC n’exclut pas de poursuivre les échanges avec X : elle indique qu’elle discutera davantage avec l’entreprise de ce qui s’est passé et de la suite des événements.

Si vous lisez ceci, vous avez déjà une longueur d’avance. Gardez-la grâce à notre newsletter.