A Z.ai, empresa chinesa por trás da família de modelos GLM, tornou seu assistente de código ZCode de código aberto depois de corrigir uma falha que vinha, silenciosamente, enviando os arquivos locais dos projetos dos desenvolvedores para servidores da Alibaba Cloud sem a devida permissão.
O incidente ocorreu em 18 de setembro, quando um blogueiro de tecnologia chinês independente conhecido como Ferstar descobriu um problema ao inspecionar o diretório de trabalho do ZCode, encontrando arquivos sendo preparados para upload no armazenamento em nuvem da Alibaba. O South China Morning Post informou.
O blogueiro encontrou dois arquivos criptografados, incluindo um arquivo compactado de 313 megabytes que ainda aguardava transferência após 564 tentativas de upload com falha, e um arquivo menor de 15 quilobytes que já havia sido enviado.
Ferstar disse que o arquivo maior continha um snapshot de um projeto comercial que ele estava desenvolvendo, incluindo seu histórico do Git. Ele contou à SCMP que nem ele nem o cliente ZCode conseguiram abrir o arquivo porque ele estava criptografado com uma chave privada mantida nos bastidores da Z.ai.
Como a ZCode acabou fazendo upload de repositórios inteiros
Os uploads “rebel” foram vinculados a um recurso de indexação de repositórios usado para checkpoints de sessão, rollback de versão e uma “Repo Wiki”. O recurso foi ativado por padrão depois que a ZCode foi lançada.
Uploads de repositórios inteiros podem ser acionados ao criar uma nova página wiki no ambiente em nuvem, e isso pode expor mais do que apenas os arquivos que estão sendo trabalhados ativamente. O histórico do Git também pode facilitar a identificação com credenciais e hostnames antigos, o que torna um snapshot completo do repositório bastante sensível.
Um desenvolvedor com sede em Xangai citado pela SCMP descreveu o comportamento como essencialmente roubar dos usuários, acrescentando que a possibilidade de intenção maliciosa era a parte mais preocupante.
O que a Z.ai diz que mudou
A Z.ai pediu desculpas pelo incidente e afirma que interrompeu os uploads não autorizados. A empresa também disse que qualquer dado enviado para a nuvem foi destruído e nunca foi usado no treinamento de seus modelos.
O fabricante chinês de IA também declarou que pretende estabelecer um processo permanente para reportar vulnerabilidades de segurança em produtos, com pagamentos baseados na gravidade do problema. Ele também convidou desenvolvedores a continuar auditando a base de código agora aberta.
Persistem dúvidas sobre os dados enviados, já que pessoas de fora ainda não conseguem verificar exatamente o que aconteceu com eles.
Um incidente semelhante envolvendo o Grok Build da xAI ocorreu em julho, quando a ferramenta de codificação foi encontrada fazendo upload de repositórios Git inteiros. Elon Musk confirmou que os uploads aconteceram, após o que a xAI apagou os dados e introduziu uma política de retenção zero, junto com um endpoint de privacidade. Um reteste independente posterior descobriu que os uploads haviam parado.
A Z.ai ainda não anunciou quaisquer mudanças documentadas em sua política de retenção nem permitiu qualquer forma de reteste independente. A alegação da empresa de que os dados enviados foram apagados continua sendo difícil para pessoas de fora verificarem, e a empresa também está no controle da única chave de descriptografia.
Agora, os desenvolvedores precisam decidir se confiam na ferramenta
As consequências desse incidente continuaram se espalhando, e uma empresa de robótica teria banido as ferramentas da Z.ai internamente, com desenvolvedores dizendo à SCMP que o dano à confiança poderia ser muito mais grave do que apenas o bug específico.
O incidente também afetou as ações da Z.ai no mercado. As ações da Z.ai (2513.HK) caíram quase 6% durante a sessão de segunda-feira antes de se recuperar e fechar com alta de 1,8%. A Z.ai negociava a 794 HKD no momento da publicação.
Não leia apenas notícias de cripto. Entenda-as. Assine nossa newsletter. É grátis.