A Comissão de Proteção de Dados da Irlanda (DPC) obrigou o X a parar de treinar seus modelos com dados coletados pelos agentes de IA do Grok Bot.

É a segunda vez em cerca de dois anos que o órgão regulador interrompe o fluxo de dados que alimenta o Grok.

A primeira vez foi em 2024, e o material consistia nas próprias publicações públicas de usuários da UE. Desta vez, são informações que o Grok Bot, agente de IA do X, coletou ao agir em nome de usuários em aplicativos e sites.

Das publicações dos usuários ao que os agentes coletam sobre outras pessoas

A X suspendeu o processamento depois de a DPC ter sinalizado «preocupações significativas» nas últimas semanas, segundo o comissário Dale Sunderland.

Os chamados dados de terceiros vinham sendo recolhidos pelo Grok Bot desde o fim de outubro e alimentados nos sistemas de treinamento da X.

«Pedimos que suspendessem o processamento, e hoje nos confirmaram que o fizeram», disse Sunderland numa entrevista na segunda-feira.

Sunderland, um dos três comissários da autoridade, descreveu os dados de terceiros como informações pessoais sobre alguém sem ligação com o usuário do agente.

Para enfatizar seu argumento, deu um exemplo: fotos de férias que uma pessoa compartilha com um amigo que, por sua vez, usa um agente de IA. Isso também inclui tudo o que um agente coleta na internet aberta.

Segundo Sunderland, o regulador não se opõe à IA em si. A preocupação é saber se as empresas por trás desses agentes cumprem a lei quando usam os dados que coletaram para treinar seus modelos.

Um regulador que já levou o Grok à Justiça

Em 2024, a DPC pressionou a X a excluir do treinamento do Grok as publicações públicas de usuários da UE e do EEE. A X concordou em suspender o processamento das publicações que havia usado entre 7 de maio e 1º de agosto de 2024 e assumiu um compromisso perante o Tribunal Superior da Irlanda.

A comissão encerrou formalmente o caso em 4 de setembro de 2024, depois que a X concordou em interromper a prática permanentemente. Foi a primeira vez que a DPC recorreu à Justiça para interromper uma prática relacionada a dados.

No entanto, no ano seguinte, a autoridade não descansou sobre os louros e abriu uma investigação separada sobre a X Internet Unlimited Company para apurar se treinar o Grok com publicações públicas estava em conformidade com o RGPD.

A DPC pode aplicar multas de até 4% da receita global de uma empresa, e o total das sanções que já impôs à Meta chega a quase 3 bilhões de euros.

A Irlanda é membro da UE e sua capital, Dublin, abriga as sedes europeias de grandes empresas de tecnologia, incluindo Apple, Google, Meta, OpenAI e X, entre outras.

Dada a posição do país no bloco, as medidas tomadas por seus reguladores têm consequências de longo alcance, pois podem estabelecer o tom em toda a UE.

Sunderland disse que a DPC também está conversando com outra empresa de tecnologia, cujo nome não foi divulgado, sobre planos de treinar modelos com dados coletados por agentes. «É uma questão muito atual no momento», afirmou.

Agentes que fazem login como você já estão arrumando confusão

A Irlanda não é a única preocupada com as capacidades dos agentes que acessam contas em nome dos usuários. Até mesmo as empresas estão preocupadas com os problemas. Segundo relatos, a Amazon bloqueou o Grok Bot em sua loja, e seu arquivo robots.txt impede o acesso de agentes associados ao Grok, ChatGPT, Claude, Copilot, Perplexity, Manus e aos rastreadores do Google.

A Amazon também processou a Perplexity, acusando-a de acessar secretamente contas privadas de clientes por meio de seu agente de navegação Comet, uma alegação contestada pela Perplexity.

A DPC não descarta continuar o diálogo com a X e afirma que conversará mais com a empresa sobre o que aconteceu e o que virá a seguir.

Se você está lendo isto, já está um passo à frente. Continue assim com a nossa newsletter.