Un matemático de NYU, quien afirma que uno de los modelos de OpenAI llegó a sus resultados no publicados en un día desde que supo su nombre, ahora mantiene sus ideas originales fuera de las herramientas de IA de la empresa. OpenAI afirma que sus instrucciones no pudieron haber influido en su sistema.
Tristan Buckmaster dio la voz de alarma días después de que OpenAI publicara 722 artículos de matemáticas escritos por IA. Según dijo, en una de sus cuentas el entrenamiento de modelos seguía activado de forma predeterminada.
Lo que Buckmaster dice que ocurrió con su trabajo no publicado
Buckmaster y Levent Alpöge, matemático de Anthropic, competidora de OpenAI, dedicaron casi un año a avanzar un paso hacia la resolución de Navier-Stokes, un enigma sobre el flujo de fluidos que ofrece un premio de un millón de dólares.
Buckmaster realizó el trabajo con Codex, el asistente de programación de OpenAI, en una cuenta personal de pago. Sus borradores quedaron en los servidores de OpenAI.
Le dijo a CNBC que OpenAI no había avanzado nada antes de que revelara su nombre. Después, dijo, sus agentes llegaron en un día «exactamente adonde estábamos nosotros».
En septiembre, Buckmaster dijo que no estaba acusando a nadie, informó BeInCrypto. Ahora considera sospechoso el momento en que ocurrió.
«Antes de que supieran mi nombre, no habían avanzado nada. Después de saberlo, de repente empezaron desde donde lo habíamos dejado… Me parece sospechoso», dijo.
Antes de que OpenAI anunciara su demostración de Navier-Stokes el 8 de septiembre, Buckmaster afirma que le ofreció la autoría exclusiva si prescindía de Alpöge. Se negó.
OpenAI niega cualquier vínculo con sus datos.
«Podemos afirmar categóricamente que es imposible que las indicaciones de Codex del Dr. Buckmaster durante los últimos dos meses hayan influido en el sistema de ninguna manera, incluido el entrenamiento», informó ABC, citando a un portavoz de OpenAI.
Buckmaster dijo que ese período no dejaba de cambiar. En una declaración posterior, la empresa lo fijó en el 3 de julio.
Por qué Buckmaster ahora aconseja a los investigadores que no compartan sus ideas con la IA
Buckmaster todavía tiene Codex, pero ya no introduce ideas que quiere mantener originales.
Dijo que quienes evalúan las solicitudes de subvención suelen pegar propuestas de investigación en herramientas de IA para redactar resúmenes, y así entregan planes inéditos a empresas de IA.
El lanzamiento de OpenAI en octubre se basó en 4.000 problemas sin resolver. Buckmaster dijo que acabó con los programas de investigación de matemáticos que estaban al principio de sus carreras.
El investigador principal de OpenAI, Sébastien Bubeck, le dijo a The New York Times que sus ofrecimientos tenían como objetivo ayudar a Buckmaster.
Un portavoz dijo que OpenAI ha logrado «avances sustanciales» en otro de los problemas de un millón de dólares.