La Comisión de Protección de Datos de Irlanda (DPC) ha obligado a X a dejar de entrenar sus modelos con datos recopilados por los agentes de IA de Grok Bot.

Es la segunda vez en unos dos años que el regulador corta el flujo de datos que alimenta a Grok.

La primera vez fue en 2024, y entonces el material eran las propias publicaciones públicas de los usuarios de la UE. Esta vez se trata de información que Grok Bot, el agente de IA de X, recopiló al actuar en nombre de usuarios en aplicaciones y sitios web.

De las publicaciones de los usuarios a lo que los agentes recopilan sobre otras personas

X suspendió el procesamiento después de que la DPC señalara «preocupaciones importantes» en las últimas semanas, según el comisionado Dale Sunderland.

El llamado conjunto de datos de terceros había sido recopilado por Grok Bot desde finales de octubre y enviado a los sistemas de entrenamiento de X.

«Les pedimos que suspendieran el procesamiento y hoy nos han confirmado que lo han hecho», dijo Sunderland en una entrevista el lunes.

Sunderland, uno de los tres comisionados de la autoridad, describió los datos de terceros como información personal sobre alguien que no está relacionado con el usuario del agente.

Para dejar claro su argumento, puso un ejemplo: las fotos de vacaciones que una persona comparte con un amigo que luego ejecuta un agente de IA. También incluye todo lo que un agente recopila de la web abierta.

Según Sunderland, el regulador no se opone a la IA en sí. Su preocupación es si las empresas que están detrás de estos agentes respetan la ley cuando utilizan los datos que han recopilado para entrenar sus modelos.

Un regulador que ya llevó a Grok ante los tribunales

En 2024, la DPC presionó a X para que excluyera del entrenamiento de Grok las publicaciones públicas de usuarios de la UE y el EEE. X aceptó suspender el procesamiento de las publicaciones que había utilizado entre el 7 de mayo y el 1 de agosto de 2024, y se comprometió ante el Tribunal Superior de Irlanda.

La comisión cerró formalmente el caso el 4 de septiembre de 2024, después de que X aceptara poner fin a esa práctica de forma permanente. Fue la primera vez que la DPC acudió a los tribunales para detener una práctica relacionada con datos.

Sin embargo, al año siguiente el organismo de control no se durmió en los laureles y abrió una investigación aparte sobre X Internet Unlimited Company para determinar si entrenar a Grok con publicaciones públicas cumplía con el RGPD.

La DPC puede imponer multas de hasta el 4 % de los ingresos globales de una empresa, y sus sanciones anteriores contra Meta suman cerca de 3.000 millones de euros.

Irlanda es miembro de la UE y su capital, Dublín, alberga las sedes europeas de grandes empresas tecnológicas, como Apple, Google, Meta, OpenAI y X, entre otras.

Dada su posición en el bloque, las medidas que adoptan sus reguladores tienen consecuencias de gran alcance, ya que podrían marcar la pauta en toda la UE.

Sunderland dijo que la DPC también está hablando con otra empresa tecnológica, cuyo nombre no reveló, sobre sus planes para entrenar modelos con datos recopilados por agentes. «Es un tema muy candente en este momento», dijo.

Los agentes que inician sesión en tu nombre ya están buscando pelea

Irlanda no es la única preocupada por las capacidades de los agentes que inician sesión en nombre de un usuario. Incluso las empresas ya desconfían de los problemas que pueden causar. Según se informa, Amazon bloqueó Grok Bot en su tienda, y su archivo robots.txt impide el acceso a agentes vinculados con Grok, ChatGPT, Claude, Copilot, Perplexity, Manus y los rastreadores de Google.

Amazon también demandó a Perplexity, acusándola de acceder en secreto a cuentas privadas de clientes a través de su agente de navegación Comet, una acusación que Perplexity niega.

La DPC no descarta seguir colaborando con X, pues afirma que hablará más con la empresa sobre lo ocurrido y sobre los próximos pasos.

Si estás leyendo esto, ya vas un paso por delante. Mantente ahí con nuestro boletín.