El investigador Keyu Tian, despedido anteriormente por sospechas de haber interferido en el entrenamiento de modelos de IA de ByteDance y apodado por los internautas chinos «el becario que envenenó la IA», volvió a llamar la atención hace poco tras fundar una startup de modelos del mundo (World Model) y conseguir casi 30 millones de dólares en financiación. Ahora se enfrenta a nuevas acusaciones.
Este mes, Keyu Tian concedió una entrevista a (elsewhere), en la que admitió haber interferido en el programa de entrenamiento de otro becario, pero negó haber saboteado maliciosamente durante mucho tiempo las investigaciones de otras personas. Sin embargo, un comunicado público titulado «Desde la perspectiva del becario A» presentó recientemente una versión de los hechos muy distinta a la de Tian.
La declaración acusa a Tian Keyu de modificar reiteradamente los pesos de modelos de IA, el código fuente de PyTorch y los procedimientos de entrenamiento distribuido entre marzo y julio de 2024, e incluso de ajustar sus métodos de ataque mientras participaba en la resolución de problemas del equipo. Además, plantea una nueva controversia sobre la integridad de la investigación: Tian Keyu presuntamente utilizó el modelo de código abierto PixArt y lo presentó como resultado del modelo de generación de imágenes VAR que, según afirmaba, había entrenado.
La declaración adjunta fragmentos de presunto código de ataque y menciona a cinco investigadores dispuestos a testificar sobre sus experiencias personales. Sin embargo, por ahora las acusaciones proceden principalmente del relato de la otra parte involucrada en el incidente, y tanto los registros completos de las operaciones como la autoría del código aún deben verificarse de forma independiente.
La nueva startup de Tian Keyu alcanza una valoración de 200 millones de dólares sin tener un producto
Según se informó anteriormente, Tian Keyu fundó un laboratorio de IA centrado en modelos del mundo. Aunque todavía no ha lanzado ningún producto público y el equipo cuenta con apenas unas diez personas, recibió cerca de 30 millones de dólares de inversores como 5Y Capital e IDG Capital, lo que situó su valoración tras la inversión en 200 millones de dólares.
Tian Keyu obtuvo anteriormente el premio al mejor artículo de NeurIPS 2024 como primer autor, por su investigación sobre el modelado autorregresivo visual (Visual Autoregressive Modeling, VAR). Ahora espera ampliar esta tecnología a modelos fundacionales de IA capaces de comprender el mundo físico.
(El controvertido exempleado en prácticas de ByteDance, Tian Keyu: su nueva empresa alcanza una valoración de 200 millones sin tener aún un producto)
Tian Keyu habla de la polémica pasada: no hubo sabotaje mediante envenenamiento
Sin embargo, tras conocerse la noticia de su emprendimiento, la controversia relacionada con sus prácticas en ByteDance en 2024 volvió a ocupar el centro de atención. El 12 de octubre, (elsewhere) publicó el contenido de una entrevista con Tian Keyu. Este dijo que ese año interfirió en el entrenamiento de otro empleado en prácticas porque, según él, esa persona acaparaba de forma injustificada los recursos de GPU e incluso detenía los programas de los demás, mientras que el equipo no lograba resolver la situación eficazmente. Por eso, afirmó, intervino de manera equivocada.
Tian Keyu afirmó que utilizó GPT para ayudarle a escribir código y que, durante unos diez días, interfirió manualmente en los experimentos de la otra persona unas cinco veces. Negó que se tratara del ataque a gran escala que, según rumores en internet, se prolongó durante meses. Insistió en que nunca le faltaron GPU y que jamás tocó los experimentos de otros investigadores. Dijo que está dispuesto a asumir la responsabilidad por infringir las normas, pero rechaza que se le describa como alguien que saboteó maliciosamente la investigación de sus colegas.
Tian Keyu también afirmó entonces que podía asegurar que su conducta indebida no había afectado la investigación ni los artículos de ninguna otra persona, y negó haber recurrido a técnicas como virus o ciberataques.
Acusan a Tian Keyu de sabotear el entrenamiento desde marzo, antes de la disputa por los recursos de GPU
Tian Keyu había explicado anteriormente su conducta como una respuesta a una asignación injusta de los recursos de GPU, pero la cronología presentada en la nueva declaración indica que las presuntas interferencias podrían remontarse a marzo de 2024. Según la declaración, Tian Keyu habría modificado los pesos del modelo T5 utilizado por el proyecto LlamaGen e incorporado ruido aleatorio, lo que provocó anomalías en el entrenamiento del modelo. El autor de la declaración señala que, en aquel momento, LlamaGen era un pequeño proyecto de investigación que utilizaba no más de 100 GPU y que aún no competía por la capacidad de computación necesaria para los grandes modelos de generación de vídeo que llegaron después.
Las anomalías no se resolvieron hasta que los investigadores volvieron a descargar los pesos del modelo T5. El autor publicó un fragmento de código que, según afirma, procede de los registros de commits del GitLab interno de Tian Keyu. El código añadía ruido aleatorio a los pesos del modelo y después restauraba su norma original, haciendo que los pesos modificados parecieran normales en cuanto a su escala numérica.
Si se confirman el origen y los registros de ejecución de este código, ello supondría una contradicción importante con la versión de Tian Keyu, quien afirma que solo interfirió durante unos diez días en el trabajo de un empleado en prácticas en particular.
Vuelven a acusar a Tian Keyu de falsear resultados de investigación: habría presentado PixArt como un modelo VAR
Además de la presunta interferencia prolongada en el trabajo de otros investigadores, la declaración revela otra acusación contra Tian Keyu que hasta ahora había recibido poca atención. Según la declaración, Tian Keyu era responsable de entrenar un modelo de generación de imágenes VAR Text-to-Image utilizando más de mil GPU e informaba periódicamente a sus supervisores sobre el progreso de la investigación.
También implementó en el Discord interno un modelo que, según afirmaba, era el resultado del entrenamiento de VAR, para que otros compañeros probaran su capacidad de generar imágenes. Sin embargo, después de que Tian Keyu fuera investigado, el equipo volvió a examinar el modelo y, según se afirma, descubrió que el sistema que los compañeros habían probado no era el VAR T2I que él estaba entrenando, sino el modelo de código abierto PixArt.
La declaración incluso señala que Tian Keyu presuntamente diseñó un mecanismo especial en el proceso de inferencia: sin importar qué prompt introdujera el usuario, el programa añadía automáticamente la palabra «City» al principio antes de enviarlo a PixArt para generar la imagen.
El autor considera que esto pudo haberse hecho para evitar que los compañeros compararan directamente los mismos prompts con el modelo de código abierto y descubrieran así el verdadero origen de los resultados presentados.
La declaración menciona que, en aquel momento, los investigadores habían observado que las imágenes generadas mostraban con frecuencia, y sin motivo aparente, siluetas de edificios urbanos, pero no lograban averiguar la causa. No fue hasta que examinaron posteriormente el proceso de inferencia que descubrieron esta presunta modificación.
Al mismo tiempo, según se afirma, el entrenamiento real del VAR T2I no alcanzó los resultados que Tian Keyu había mostrado anteriormente, por lo que el equipo tuvo que reevaluar el progreso y reanudar el desarrollo. Esta acusación es especialmente delicada porque la capacidad empresarial actual de Tian Keyu y su atractivo para los inversores se basan en gran medida en su trayectoria previa de investigación sobre modelos de generación visual.
Cinco investigadores figuran como testigos
Además de presentar material técnico, la declaración menciona a cinco investigadores: Shoufa Chen y Chongjian Ge, coautores principales de Goku; Ting-Che Lin, miembro del proyecto Goku; Peize Sun, primer autor de LlamaGen; y Shilong Zhang, quien realizó prácticas en la empresa durante el mismo periodo.
La declaración afirma que estas personas confirmaron la veracidad de los hechos relacionados con sus experiencias personales y que están dispuestas a testificar si fuera necesario. El autor también advirtió directamente a los actuales socios y a los inversores de Tian Keyu, y recomendó verificar de forma independiente los registros de entrenamiento, el origen de los modelos y el progreso de la investigación para comprobar si la versión de Tian Keyu sobre los hechos pasados coincide con la realidad.
Tian Keyu fue condenado en primera instancia a pagar 500.000 yuanes; la apelación sigue en curso
Al repasar el caso, ByteDance confirmó públicamente en 2024 que un empleado en prácticas había interferido maliciosamente en el entrenamiento de modelos de un proyecto de investigación y que la empresa había despedido a la persona implicada. Posteriormente, la compañía demandó a Tian Keyu y reclamó inicialmente más de 8 millones de yuanes.
Según lo que Tian Keyu contó en una entrevista con (elsewhere), el tribunal fijó en primera instancia una indemnización de unos 500.000 yuanes, pero ByteDance apeló y el caso aún está en segunda instancia. En la entrevista, Tian Keyu insistió en repetidas ocasiones en que reconoce haber infringido las normas y está dispuesto a pagar una indemnización, pero considera que muchas de las acusaciones en su contra han sido exageradas e incluso inventadas.
Este artículo: El exempleado de ByteDance Tian Keyu responde a la polémica por el «envenenamiento»; ahora también lo acusan de falsear investigaciones utilizando un modelo de código abierto. Publicado originalmente en Chain News ABMedia.