Um tribunal federal de apelações dos EUA analisou na quarta-feira o pedido da xAI para bloquear a lei da Califórnia que exige a divulgação de dados de treinamento de IA. Durante a audiência, os juízes do 9º Circuito, sediado em São Francisco, pareceram não convencidos pelo argumento constitucional da empresa, embora também tenham questionado os advogados do estado sobre quanta informação a Califórnia pode obrigar as empresas de IA a fornecer.
Promulgada como parte dos esforços mais amplos do estado para supervisionar a IA, a lei de transparência exige que os criadores de IA generativa divulguem publicamente resumos dos dados usados em seu treinamento. Até agora, a xAI argumentou que a lei viola seus direitos à liberdade de expressão garantidos pela Primeira Emenda e a obriga a divulgar detalhes proprietários sobre como seus modelos são treinados.
O argumento da xAI gira em torno de saber se exigir que as empresas publiquem informações sobre seus processos de treinamento equivale a obrigá-las a se expressar. Em geral, a Primeira Emenda protege indivíduos e empresas de restrições governamentais à liberdade de expressão, mas também levanta questões sobre quando as autoridades podem exigir a divulgação de informações.
Para os desenvolvedores de IA, a disputa envolve equilibrar a transparência com a proteção de segredos comerciais e tecnologias proprietárias. Uma decisão favorável à Califórnia poderia dificultar que os desenvolvedores contestassem exigências semelhantes de divulgação em outros estados.
A juíza Rawlinson diz que a xAI precisa demonstrar que a lei de transparência é irrazoável
Em março, o juiz federal Jesus Bernal, de Los Angeles, rejeitou o pedido da xAI para suspender a lei estadual, dizendo que a empresa não havia demonstrado, em uma fase inicial, que provavelmente venceria sua contestação constitucional. Pela audiência de quarta-feira, o tribunal de apelações pareceu inclinado a manter a decisão de Bernal.
A juíza do Tribunal de Apelações do Nono Circuito dos EUA, Johnnie Rawlinson, disse ao advogado da xAI, James Xi, que, para argumentar que a lei viola a Primeira Emenda, a empresa precisa demonstrar que a exigência do governo é irrazoável.
Ela chegou a sugerir que a decisão do estado de solicitar informações talvez tenha sido sensata. “Não é razoável que o governo queira que seus cidadãos possam saber de antemão quais informações estão sendo inseridas no instrumento de IA?”, perguntou.
Ainda assim, os juízes concordaram em parte com a alegação da xAI de que o estado poderia obrigá-la a entregar uma quantidade “ilimitada” de informações.
No início de julho, o Knight Institute apresentou um parecer de amicus curiae sobre o caso. No documento, alertou que as grandes empresas de tecnologia estão retendo detalhes essenciais sobre como os sistemas de IA generativa funcionam, como são desenvolvidos e como influenciam as informações que as pessoas veem.
O instituto também argumentou que exigências de divulgação destinadas a promover o livre fluxo de informações comerciais precisas deveriam estar sujeitas a um critério deferente de análise à luz da Primeira Emenda. Aplicando esse critério, o instituto sustentou que a xAI não havia demonstrado uma violação constitucional, pois a lei da Califórnia atende ao interesse do estado em manter os usuários informados sem impor um ônus excessivo à liberdade de expressão protegida.
O Grok, da xAI, buscou dados corporativos sem qualquer solicitação ou autorização
A manifestação do Nono Circuito ocorre após novas descobertas sobre o Grok Bot, da xAI.
Novas descobertas da NewCore, empresa de identidade para agentes de IA, mostram que o Grok Bot, da xAI, buscou repetidamente dados corporativos sem qualquer solicitação ou autorização, persistindo mesmo depois que um dos proprietários recusou quatro vezes seguidas as ofertas para fazer uma verificação.
Além disso, quando questionado diretamente, o bot alegou que não havia feito nenhuma chamada. O histórico de conversas também não mostrava indícios dessa atividade; o proprietário nunca foi notificado, e a plataforma não oferecia registros por interação para verificar o que havia acontecido.
Em apenas cinco dias, dois bots Grok vinculados a contas de funcionários da NewCore iniciaram 31 solicitações no Google Calendar, Gmail, Slack, GitHub e Notion, sem permissão nem instruções dos usuários.
Algumas solicitações foram feitas mesmo quando os laptops dos proprietários estavam desligados ou em modo de suspensão. Em uma das contas, o NewCore Secure MCP Gateway pausou as solicitações à espera de aprovação humana e alertou o proprietário, dando início a uma investigação pela equipe de pesquisa de segurança da NewCore.
Como parte da investigação, os pesquisadores usaram outro bot Grok em uma conta diferente, configuraram-no com o mesmo gateway e iniciaram um teste típico. O bot recebeu uma solicitação de trabalho, com aprovação para uma única sessão de leitura a partir do celular, e teve cada tentativa de continuar operando sozinho rejeitada.
Mesmo assim, o bot continuou a gerar solicitações não solicitadas, que foram interceptadas pelo gateway e ficaram sem resposta. Essas solicitações tentaram acessar o Google Drive, o Google Calendar, o Gmail, o Slack, o Notion e o GitHub.
Se você está lendo isto, já está um passo à frente. Continue assim com a nossa newsletter.
