Palestra de Terence Tao sobre «Matemática 2.0»: a IA faz com que as demonstrações deixem de ser escassas; a busca cega por soluções prejudica a matemática
O matemático Terence Tao proferiu uma palestra pública no Instituto de Tecnologia da Califórnia, a 9 de outubro. O tema inicialmente previsto era «Demonstrações assistidas por máquinas», mas acabou por ser alterado para «Matemática 2.0». No texto da palestra, publicado no seu site pessoal, Tao afirma que a matemática está a entrar numa era de «abundância de demonstrações» e que os métodos de avaliação centrados na resolução de problemas, usados no passado, já não estão alinhados com os objetivos de longo prazo da matemática. «Continuar a perseguir cegamente apenas a resolução de problemas é agora prejudicial para a saúde da matemática a longo prazo.» A palestra integrou uma série de conferências públicas do Instituto Americano de Matemática (AIM). Tao afirmou no seu site que, no futuro, continuará a usar o título «Matemática 2.0» e que o vídeo e a transcrição da palestra serão publicados mais tarde.
Da «escassez de demonstrações» à «abundância de demonstrações»
Tao designa a matemática tradicional como «Matemática 1.0» e considera que ela assenta no pressuposto da «escassez de demonstrações»: resolver um problema em aberto e provar que a solução está correta sempre foi algo difícil e raro, que normalmente exige um vasto conhecimento especializado. Muitas instituições, tradições e mecanismos de recompensa da comunidade matemática foram também concebidos em torno desse pressuposto.
Na sua opinião, as demonstrações matemáticas têm três características que as tornam particularmente adequadas ao tratamento por aprendizagem automática: podem ser verificadas objetivamente, inclusive por computador, com linguagens de assistência à demonstração como Lean; são altamente digitalizadas, não exigindo experiências físicas nem dados do mundo real; e uma grande quantidade de literatura de investigação já está digitalizada. Por isso, os laboratórios de IA de ponta têm investido prioritariamente na capacidade de resolver problemas matemáticos. Tao escreveu: «O resultado deste enorme investimento é que estamos a entrar numa era de abundância de demonstrações na matemática.»
Tao observa que, com capacidade computacional suficiente e modelos de ponta, já é possível resolver, em relativamente pouco tempo, muitos problemas em aberto que antes eram considerados difíceis. Além disso, quem dá as instruções precisa cada vez menos de ter conhecimentos especializados na área. Em contrapartida, a IA continua a ter um desempenho insatisfatório em tarefas que envolvem juízos subjetivos, interação com o mundo real e escassez de dados. Tao descreve as capacidades da IA como extremamente «desiguais».
A febre da resolução de problemas por IA e o viés de sobrevivência
No texto da palestra, Tao incluiu uma imagem de um avião bombardeiro da Segunda Guerra Mundial com marcas de balas e a frase «Uau, todos os problemas de matemática que vejo nas redes sociais foram resolvidos pela IA!», usando o viés de sobrevivência para ilustrar que o público só vê os casos de sucesso. Segundo ele, apesar da impressão transmitida pelos comunicados de imprensa e pelas redes sociais, a maioria dos problemas de ponta continua por resolver, mesmo com grandes investimentos em capacidade computacional, e as tentativas falhadas da IA raramente são noticiadas.
Tao apelou a avaliações mais transparentes e científicas das capacidades da IA, com a divulgação integral de dados essenciais, como os recursos consumidos e os resultados negativos. Como exemplo, citou o First Proof, um projeto de avaliação independente das capacidades matemáticas da IA.
Os problemas em aberto são faróis, não destinos
Tao considera que, embora a resolução de problemas tenha sido sempre o objetivo mais visível da investigação matemática, na prática é apenas um «indicador indireto» de objetivos de longo prazo mais valiosos. Na matemática pura, os problemas em aberto são mais como «faróis», que orientam os matemáticos na exploração das áreas à sua volta. O que se aprende ao longo do percurso, quer se tenha sucesso, fracasso ou apenas progresso parcial, costuma ser mais valioso do que a resposta final. Se as ferramentas de automatização chegarem demasiado cedo a esses faróis, poderão interromper percursos ainda não explorados e «deixar as áreas circundantes desoladas».
Tao propôs também uma experiência mental: suponhamos que alguém pede à IA para «encontrar uma terapia contra o cancro que passe a fase III dos ensaios clínicos». Depois de consumir enormes recursos computacionais, a IA encontra uma combinação inédita de fármacos químicos. Um modelo matemático prevê que esta combinação matará células cancerígenas, a previsão é verificada com Lean e, no fim, a terapia passa mesmo os ensaios de fase III — mas ninguém sabe como a combinação foi encontrada. Tao pergunta se a solução poderá ter explorado uma falha no processo de ensaios. «Antes de injetar esta combinação de fármacos na tua corrente sanguínea, não gostarias que pelo menos um especialista humano em cancro compreendesse o mecanismo por trás desta terapia?»
Modelo matemático de código aberto será lançado «em breve»
Tao defende que a direção da «Matemática 2.0» deve ser usar a IA para reforçar cada etapa da compreensão humana da matemática, em vez de a utilizar apenas para produzir demonstrações. Entre as abordagens que enumera estão encontrar explicações mais fáceis de compreender para teoremas cujas demonstrações atuais são difíceis de entender; integrar muitos artigos numa rede continuamente atualizada; criar grandes bases de dados de matemática formalizada, como a Mathlib; e realizar «estudos de ablação», isto é, retirar uma condição essencial para verificar se um teorema demonstrado continua válido.
Mencionou também o desenvolvimento de modelos matemáticos de código aberto, concebidos para tarefas matemáticas e dotados de elevada interpretabilidade e segurança. Escreveu que «alguns modelos matemáticos de código aberto serão lançados em breve — fiquem atentos», mas não especificou a equipa responsável nem a data de lançamento. A última página do texto da palestra afirma que o principal obstáculo à concretização da Matemática 2.0 não é a tecnologia, nem sequer a cultura institucional, «mas sim a imaginação».
Tao foi um dos primeiros signatários da declaração conjunta assinada por 25 laureados com a Medalha Fields, a 11 de setembro. A declaração também critica a competição das empresas de IA para resolver problemas e o desalinhamento com os objetivos da comunidade matemática. O evento Mathathon do Instituto de Tecnologia da Califórnia, mencionado no texto da palestra, terá lugar de 13 a 15 de novembro. Organizado por estudantes, desafia os participantes a usar ferramentas de IA de código aberto para encontrar novas demonstrações ou explicações para teoremas cujas demonstrações atuais não são satisfatórias.
Este artigo, Palestra de Terence Tao sobre «Matemática 2.0»: a IA faz com que as demonstrações deixem de ser escassas; a busca cega por soluções prejudica a matemática, apareceu originalmente em .
O matemático Terence Tao proferiu uma palestra pública no Instituto de Tecnologia da Califórnia, a 9 de outubro. O tema inicialmente previsto era «Demonstrações assistidas por máquinas», mas acabou por ser alterado para «Matemática 2.0». No texto da palestra, publicado no seu site pessoal, Tao afirma que a matemática está a entrar numa era de «abundância de demonstrações» e que os métodos de avaliação centrados na resolução de problemas, usados no passado, já não estão alinhados com os objetivos de longo prazo da matemática. «Continuar a perseguir cegamente apenas a resolução de problemas é agora prejudicial para a saúde da matemática a longo prazo.» A palestra integrou uma série de conferências públicas do Instituto Americano de Matemática (AIM). Tao afirmou no seu site que, no futuro, continuará a usar o título «Matemática 2.0» e que o vídeo e a transcrição da palestra serão publicados mais tarde.
Da «escassez de demonstrações» à «abundância de demonstrações»
Tao designa a matemática tradicional como «Matemática 1.0» e considera que ela assenta no pressuposto da «escassez de demonstrações»: resolver um problema em aberto e provar que a solução está correta sempre foi algo difícil e raro, que normalmente exige um vasto conhecimento especializado. Muitas instituições, tradições e mecanismos de recompensa da comunidade matemática foram também concebidos em torno desse pressuposto.
Na sua opinião, as demonstrações matemáticas têm três características que as tornam particularmente adequadas ao tratamento por aprendizagem automática: podem ser verificadas objetivamente, inclusive por computador, com linguagens de assistência à demonstração como Lean; são altamente digitalizadas, não exigindo experiências físicas nem dados do mundo real; e uma grande quantidade de literatura de investigação já está digitalizada. Por isso, os laboratórios de IA de ponta têm investido prioritariamente na capacidade de resolver problemas matemáticos. Tao escreveu: «O resultado deste enorme investimento é que estamos a entrar numa era de abundância de demonstrações na matemática.»
Tao observa que, com capacidade computacional suficiente e modelos de ponta, já é possível resolver, em relativamente pouco tempo, muitos problemas em aberto que antes eram considerados difíceis. Além disso, quem dá as instruções precisa cada vez menos de ter conhecimentos especializados na área. Em contrapartida, a IA continua a ter um desempenho insatisfatório em tarefas que envolvem juízos subjetivos, interação com o mundo real e escassez de dados. Tao descreve as capacidades da IA como extremamente «desiguais».
A febre da resolução de problemas por IA e o viés de sobrevivência
No texto da palestra, Tao incluiu uma imagem de um avião bombardeiro da Segunda Guerra Mundial com marcas de balas e a frase «Uau, todos os problemas de matemática que vejo nas redes sociais foram resolvidos pela IA!», usando o viés de sobrevivência para ilustrar que o público só vê os casos de sucesso. Segundo ele, apesar da impressão transmitida pelos comunicados de imprensa e pelas redes sociais, a maioria dos problemas de ponta continua por resolver, mesmo com grandes investimentos em capacidade computacional, e as tentativas falhadas da IA raramente são noticiadas.
Tao apelou a avaliações mais transparentes e científicas das capacidades da IA, com a divulgação integral de dados essenciais, como os recursos consumidos e os resultados negativos. Como exemplo, citou o First Proof, um projeto de avaliação independente das capacidades matemáticas da IA.
Os problemas em aberto são faróis, não destinos
Tao considera que, embora a resolução de problemas tenha sido sempre o objetivo mais visível da investigação matemática, na prática é apenas um «indicador indireto» de objetivos de longo prazo mais valiosos. Na matemática pura, os problemas em aberto são mais como «faróis», que orientam os matemáticos na exploração das áreas à sua volta. O que se aprende ao longo do percurso, quer se tenha sucesso, fracasso ou apenas progresso parcial, costuma ser mais valioso do que a resposta final. Se as ferramentas de automatização chegarem demasiado cedo a esses faróis, poderão interromper percursos ainda não explorados e «deixar as áreas circundantes desoladas».
Tao propôs também uma experiência mental: suponhamos que alguém pede à IA para «encontrar uma terapia contra o cancro que passe a fase III dos ensaios clínicos». Depois de consumir enormes recursos computacionais, a IA encontra uma combinação inédita de fármacos químicos. Um modelo matemático prevê que esta combinação matará células cancerígenas, a previsão é verificada com Lean e, no fim, a terapia passa mesmo os ensaios de fase III — mas ninguém sabe como a combinação foi encontrada. Tao pergunta se a solução poderá ter explorado uma falha no processo de ensaios. «Antes de injetar esta combinação de fármacos na tua corrente sanguínea, não gostarias que pelo menos um especialista humano em cancro compreendesse o mecanismo por trás desta terapia?»
Modelo matemático de código aberto será lançado «em breve»
Tao defende que a direção da «Matemática 2.0» deve ser usar a IA para reforçar cada etapa da compreensão humana da matemática, em vez de a utilizar apenas para produzir demonstrações. Entre as abordagens que enumera estão encontrar explicações mais fáceis de compreender para teoremas cujas demonstrações atuais são difíceis de entender; integrar muitos artigos numa rede continuamente atualizada; criar grandes bases de dados de matemática formalizada, como a Mathlib; e realizar «estudos de ablação», isto é, retirar uma condição essencial para verificar se um teorema demonstrado continua válido.
Mencionou também o desenvolvimento de modelos matemáticos de código aberto, concebidos para tarefas matemáticas e dotados de elevada interpretabilidade e segurança. Escreveu que «alguns modelos matemáticos de código aberto serão lançados em breve — fiquem atentos», mas não especificou a equipa responsável nem a data de lançamento. A última página do texto da palestra afirma que o principal obstáculo à concretização da Matemática 2.0 não é a tecnologia, nem sequer a cultura institucional, «mas sim a imaginação».
Tao foi um dos primeiros signatários da declaração conjunta assinada por 25 laureados com a Medalha Fields, a 11 de setembro. A declaração também critica a competição das empresas de IA para resolver problemas e o desalinhamento com os objetivos da comunidade matemática. O evento Mathathon do Instituto de Tecnologia da Califórnia, mencionado no texto da palestra, terá lugar de 13 a 15 de novembro. Organizado por estudantes, desafia os participantes a usar ferramentas de IA de código aberto para encontrar novas demonstrações ou explicações para teoremas cujas demonstrações atuais não são satisfatórias.
Este artigo, Palestra de Terence Tao sobre «Matemática 2.0»: a IA faz com que as demonstrações deixem de ser escassas; a busca cega por soluções prejudica a matemática, apareceu originalmente em .