Un mathématicien de NYU affirme que l’un des modèles d’OpenAI a retrouvé ses résultats inédits moins d’un jour après avoir appris son nom. Depuis, il évite de confier ses idées originales aux outils d’IA de l’entreprise. OpenAI affirme que ses requêtes n’ont pas pu façonner son système.
Tristan Buckmaster a lancé cet avertissement quelques jours après qu’OpenAI a publié 722 articles de mathématiques rédigés par l’IA. L’un de ses comptes, a-t-il précisé, avait toujours l’entraînement des modèles activé par défaut.
Ce que Buckmaster affirme être arrivé à ses travaux inédits
Buckmaster et Levent Alpöge, mathématicien chez Anthropic, concurrent d’OpenAI, ont consacré près d’un an à une étape vers la résolution du problème de Navier-Stokes, une énigme sur l’écoulement des fluides assortie d’un prix d’un million de dollars.
Buckmaster a réalisé le travail avec Codex, l’assistant de programmation d’OpenAI, depuis un compte personnel payant. Leurs brouillons étaient stockés sur les serveurs d’OpenAI.
Il a déclaré à CNBC qu’OpenAI n’avait fait aucun progrès avant qu’il ne révèle son nom. Ensuite, a-t-il dit, ses agents sont arrivés « exactement là où nous en étions » en l’espace d’une journée.
En septembre, Buckmaster a déclaré qu’il n’accusait personne, a rapporté BeInCrypto. Aujourd’hui, il juge le calendrier suspect.
« Avant qu’ils connaissent mon nom, ils n’avaient fait aucun progrès. Après l’avoir appris, ils ont soudainement repris là où nous nous étions arrêtés… Je trouve cela suspect », a-t-il déclaré.
Avant qu’OpenAI n’annonce sa démonstration sur les équations de Navier-Stokes le 8 septembre, l’entreprise lui a proposé d’en être le seul auteur s’il écartait Alpöge, affirme Buckmaster. Il a refusé.
OpenAI nie tout lien avec ses données.
« Nous pouvons affirmer catégoriquement qu’il est impossible que les requêtes de Dr Buckmaster dans Codex au cours des deux derniers mois aient influencé le système de quelque manière que ce soit, y compris par son entraînement », a rapporté ABC, citant un porte-parole d’OpenAI.
Buckmaster a déclaré que cette période n’arrêtait pas de changer. Une déclaration ultérieure de l’entreprise l’a fixée au 3 juillet.
Pourquoi Buckmaster conseille désormais aux chercheurs de ne pas confier leurs idées à l’IA
Buckmaster utilise toujours Codex, mais n’y saisit plus les idées qu’il souhaite garder inédites.
Il a déclaré que les évaluateurs de subventions collaient souvent des propositions de recherche dans des outils d’IA pour en rédiger des résumés, confiant ainsi des projets non publiés à des entreprises d’IA.
La publication d’OpenAI en octobre s’appuyait sur 4 000 problèmes non résolus. Buckmaster a déclaré qu’elle avait anéanti les programmes de recherche de jeunes mathématiciens en début de carrière.
Le chercheur principal d’OpenAI, Sébastien Bubeck, a déclaré au New York Times que ses offres visaient à aider Buckmaster.
Un porte-parole a déclaré qu’OpenAI avait réalisé des « progrès substantiels » sur un autre des problèmes dotés d’un prix d’un million de dollars.