Z.ai, la empresa china detrás de la familia de modelos GLM, ha publicado como código abierto su asistente de codificación ZCode después de corregir una falla que había estado enviando en silencio los archivos locales de proyectos de los desarrolladores a servidores de Alibaba Cloud sin su permiso.
El incidente ocurrió el 18 de septiembre, cuando una bloguera tecnológica independiente china conocida como Ferstar descubrió un problema al inspeccionar el directorio de trabajo de ZCode, encontrando archivos que se estaban preparando para su carga en el almacenamiento en la nube de Alibaba; informó el South China Morning Post.
El bloguero encontró dos archivos cifrados, incluido un archivo comprimido de 313 megabytes que aún esperaba ser transferido después de 564 intentos fallidos de carga, y un archivo más pequeño de 15 kilobytes que ya había sido enviado.
Ferstar dijo que el archivo más grande contenía un snapshot de un proyecto comercial que estaba desarrollando, incluido su historial de Git. Le dijo al SCMP que ni él ni el cliente de ZCode podían abrir el archivo porque estaba cifrado con una clave privada que se guardaba en el backend de Z.ai.
Cómo ZCode terminó subiendo repositorios completos
Las cargas “rebel” estaban vinculadas a una función de indexación de repositorios utilizada para puntos de control de la sesión, reversión de versiones y una “Repo Wiki”. La función se habilitó de forma predeterminada después del lanzamiento de ZCode.
Las cargas de repositorios completos pueden activarse creando una nueva página wiki en la nube, y esto podría exponer más que solo los archivos en los que se trabaja activamente. El historial de Git también puede facilitar identificar con ciertas credenciales antiguas y nombres de host, lo que vuelve un snapshot completo del repositorio bastante sensible.
Un desarrollador con sede en Shanghái citado por el SCMP describió el comportamiento como esencialmente robar a los usuarios, añadiendo que la posibilidad de mala intención era la parte más preocupante.
Lo que Z.ai dice que ha cambiado
Z.ai se disculpó por el incidente y afirma que había detenido las subidas no autorizadas. La empresa también dijo que cualquier dato que se hubiera enviado a su nube fue destruido y nunca se utilizó en el entrenamiento de sus modelos.
El fabricante chino de IA también afirmó planes para establecer un proceso permanente para informar vulnerabilidades de seguridad de productos, con pagos en función de la gravedad del problema. También invitó a los desarrolladores a continuar auditando el código base ahora abierto.
Persisten dudas sobre los datos subidos, ya que los externos todavía no pueden verificar con exactitud qué pasó con ellos.
Un incidente similar relacionado con Grok Build de xAI ocurrió en julio, cuando se descubrió que la herramienta de codificación estaba subiendo repositorios completos de Git. Elon Musk confirmó que las subidas ocurrieron y, después de eso, xAI eliminó los datos e introdujo una política de retención cero junto con un endpoint de privacidad. Un reexamen independiente más tarde determinó que las subidas habían cesado.
Z.ai todavía no ha anunciado cambios documentados en su política de retención ni ha permitido ninguna forma de reexamen independiente. La afirmación de la empresa de que los datos subidos fueron eliminados sigue siendo difícil de verificar para los externos, además de que la empresa también controla la única clave de descifrado.
Ahora, los desarrolladores tienen que decidir si confían en la herramienta
Las consecuencias de este incidente han seguido propagándose, y según se informa una empresa de robótica ha prohibido internamente las herramientas de Z.ai, y los desarrolladores le dijeron al SCMP que el daño a la confianza podría ser potencialmente mucho mayor que solo el error específico.
El incidente también ha afectado las acciones de Z.ai en el mercado. Las acciones de Z.ai (2513.HK) cayeron casi un 6% durante la sesión del lunes antes de recuperarse y cerrar con un 1.8% más. Z.ai cotizaba a 794 HKD al momento de redactar este texto.
No solo lea noticias de criptografía. Entiéndalas. Suscríbase a nuestro boletín. Es gratis.