No horário de Pequim, em 5 de junho, a startup de IA Anthropic publicou um artigo em seu blog, pedindo que os principais laboratórios de IA do mundo considerem seriamente desacelerar o desenvolvimento de modelos de ponta. A empresa alertou que a evolução dos sistemas de IA está ocorrendo muito rapidamente e que, em breve, eles poderão alcançar a "autoaperfeiçoamento recursivo" sem a intervenção humana, o que traz riscos sociais que não podem ser ignorados.
Dados internos da Anthropic mostram que as capacidades de seu modelo mais avançado estão melhorando a uma velocidade impressionante. O chamado "autoaperfeiçoamento recursivo" refere-se à habilidade de um sistema de IA de ajudar a melhorar o próximo modelo, otimizar suas próprias capacidades ou acelerar o processo de desenvolvimento.
Uma vez que isso não dependa mais fortemente de engenheiros humanos, a velocidade do progresso da IA pode ultrapassar em muito os atuais quadros de regulamentação e avaliação de segurança. Os autores do artigo, que são responsáveis pela pesquisa e políticas da Anthropic, afirmaram: "Acreditamos que seria uma boa ideia se o mundo pudesse ter a opção de desacelerar ou pausar temporariamente o desenvolvimento de IA de ponta, para que a estrutura social e a pesquisa de consistência possam acompanhar o ritmo dos avanços tecnológicos." O artigo também propôs a formação de um acordo global sobre como desacelerar o desenvolvimento e estabelecer um mecanismo de verificação para supervisionar a conformidade da indústria.
Este clamor gerou atenção que vai além do nível técnico. Por um lado, a Anthropic está no centro de uma competição acirrada – ela acabou de concluir uma rodada de financiamento, alcançando uma avaliação de 965 bilhões de dólares, superando pela primeira vez a concorrente OpenAI (852 bilhões de dólares), e já apresentou secretamente um pedido de IPO, planejando estrear na Wall Street o mais tardar neste outono.
Por outro lado, sua posição de segurança tem sido controversa há muito tempo. O investidor de risco e conselheiro informal de Trump, David Sacks, já acusou a empresa de promover uma "agenda de captura regulatória", ou seja, sufocar concorrentes sob o pretexto de regulamentação. O professor Ethan Mollick, da Wharton School da Universidade da Pensilvânia, comentou que o artigo da Anthropic "é um tanto auto-reflexivo, mas também tem um pouco de marketing", embora suas observações sobre a direção recente da IA sejam "dignas de atenção".
Vale a pena notar que esse clamor ocorre em um momento em que a estrutura de regulamentação de IA dos EUA está rapidamente se formando. Em 2 de junho, o presidente Trump assinou uma ordem executiva exigindo que empresas de IA como OpenAI, Google e Anthropic abrissem uma janela de teste de segurança cibernética de até 30 dias para o governo antes de lançar seus modelos mais recentes. Ao mesmo tempo, o Congresso dos EUA está avançando com uma legislação bipartidária sobre IA, exigindo que os principais desenvolvedores revelem os riscos de segurança e segurança de novos modelos.
Isso significa que a discussão sobre se a "competição de IA precisa de limites" está oficialmente saindo do debate interno da indústria e entrando no cerne das discussões políticas e do mercado de capitais. A declaração franca da Anthropic, sem dúvida, elevou essa questão a um nível mais alto de decisão pública.