Um matemático da NYU que afirma que um dos modelos da OpenAI chegou aos resultados que ele ainda não havia publicado em apenas um dia depois de descobrir seu nome agora mantém suas ideias originais fora das ferramentas de IA da empresa. A OpenAI afirma que os prompts dele não poderiam ter influenciado seu sistema.
Tristan Buckmaster fez o alerta dias depois de a OpenAI publicar 722 artigos de matemática escritos por IA. Uma de suas contas, disse ele, ainda estava com o treinamento do modelo ativado por padrão.
O que Buckmaster diz que aconteceu com seu trabalho não publicado
Buckmaster e Levent Alpöge, matemático da Anthropic, concorrente da OpenAI, passaram a maior parte de um ano trabalhando em uma etapa rumo às equações de Navier-Stokes, um problema de dinâmica dos fluidos que oferece um prêmio de US$ 1 milhão.
Buckmaster executou o trabalho no Codex, o assistente de programação da OpenAI, através de uma conta pessoal paga. Os rascunhos ficaram nos servidores da OpenAI.
Ele disse à CNBC que a OpenAI não tinha feito progressos antes de ele revelar o seu nome. Depois, afirmou, os agentes da empresa chegaram «exatamente ao ponto em que estávamos» no espaço de um dia.
Em setembro, Buckmaster disse que não estava a acusar ninguém, noticiou a BeInCrypto. Agora, considera suspeito o momento em que tudo aconteceu.
«Antes de saberem o meu nome, não tinham feito progressos. Depois de saberem o meu nome, de repente começaram a partir do ponto em que tínhamos ficado… Acho suspeito», disse ele.
Antes de a OpenAI anunciar, a 8 de setembro, a sua demonstração sobre as equações de Navier-Stokes, a empresa ofereceu-lhe autoria exclusiva se excluísse Alpöge, diz Buckmaster. Ele recusou.
A OpenAI rejeita qualquer ligação com os dados dele.
«Podemos afirmar categoricamente que é impossível que os prompts enviados pelo Dr. Buckmaster ao Codex nos últimos dois meses tenham influenciado o sistema de alguma forma, incluindo através do treino», noticiou a ABC, citando um porta-voz da OpenAI.
Buckmaster disse que esse intervalo de tempo foi sendo alterado. Uma declaração posterior da empresa fixou-o em 3 de julho.
Porque é que Buckmaster agora aconselha os investigadores a não partilharem ideias com a IA
Buckmaster ainda tem acesso ao Codex, mas já não insere nele ideias que quer manter originais.
Ele disse que os avaliadores de candidaturas a bolsas muitas vezes colam propostas de investigação em ferramentas de IA para escrever resumos, entregando planos não publicados a empresas de IA.
O lançamento de outubro da OpenAI baseou-se em 4.000 problemas por resolver. Buckmaster disse que eliminou programas de investigação de matemáticos em início de carreira.
O investigador principal da OpenAI, Sébastien Bubeck, disse ao The New York Times que as suas ofertas tinham como objetivo ajudar Buckmaster.
Um porta-voz disse que a OpenAI fez «progressos substanciais» noutro dos problemas de um milhão de dólares.