Uma declaração pública intitulada “A Declaração Mis Anthropic” foi divulgada recentemente, questionando um aparente conflito entre os compromissos de segurança da Anthropic e sua expansão comercial. Segundo a Odaily, a declaração acusa a Anthropic de correr para desenvolver uma IA capaz de se aprimorar recursivamente e buscar a superinteligência, ao mesmo tempo que se apresenta como uma empresa de segurança em IA e usa essa reputação para promover interesses comerciais e políticos.
A declaração afirma que a Anthropic alertou que uma IA capaz de se aprimorar recursivamente poderia concentrar poder e escapar do controle humano, mas ainda assim continua avançando essa tecnologia. Também alega que a empresa usa sua marca de segurança para atrair investidores, funcionários e o público, enquanto enfraquece seus compromissos de segurança e faz lobby por regulamentações favoráveis a seus interesses. Os signatários argumentam que a Anthropic não é uma empresa de IA segura e pedem ao público que rejeite o que descrevem como sua expansão de poder em nome do interesse público.
Entre os signatários estão o professor de psicologia de Harvard Steven Pinker; o cofundador da Hugging Face Thomas Wolf; o laureado com o Nobel de Economia Oliver Hart; o laureado com o Nobel de Física Sheldon Lee Glashow; o vencedor do Prêmio Turing Judea Pearl; o cofundador da xAI Igor Babuschkin; o cofundador do Center for Humane Technology Tristan Harris; e o fundador do Future of Life Institute Max Tegmark. A declaração também foi assinada por vários vencedores da Medalha Fields. A Anthropic está buscando realizar uma oferta pública inicial (IPO).
