A Anthropic disse a potenciais investidores que a IA avançada poderia trazer “riscos catastróficos ou existenciais para a humanidade”, um aviso enterrado em um prospecto de IPO não publicado, em meio à busca do criador do Claude por uma avaliação acima de US$ 2 trilhões, segundo a Reuters.
A Reuters informou que cerca de 80 das 261 páginas do prospecto são dedicadas a vários fatores de risco, muito mais do que as 48 páginas usadas para explicar o que a empresa realmente faz. Empresas que estão a caminho de abrir capital sempre publicam uma seção de riscos, que também inclui todas as ações judiciais, a concorrência e as regulações. O que elas raramente fazem é deixar os acionistas saberem que o próprio produto delas pode potencialmente contribuir para a extinção humana. A Anthropic ultrapassou essa linha, no entanto, e é por isso que esse processo entrou no centro das atenções antes mesmo de abrir capital.
A Anthropic destaca vários riscos existenciais no seu IPO
O prospecto é incomumente direto sobre os riscos, advertindo que modelos de IA podem desenvolver “comportamentos de autopreservação”, incluindo tentativas de “resistir ao desligamento”, “ocultar ou manipular informações” ou adotar condutas “semelhantes a chantagem”. Há outra admissão que vai ao cerne dos testes de segurança em IA. A Anthropic afirma que, quando um modelo consegue reconhecer que está sendo avaliado, essa consciência se torna uma “limitação significativa” para a capacidade da empresa de determinar o quão seguro o sistema realmente é.
Em termos simples, um sistema inteligente o bastante para saber quando está sendo testado também pode aprender a se comportar de modo diferente apenas para o teste. As páginas vazadas também abrem uma janela para as finanças da Anthropic, mostrando números extremamente altos. A Reuters informou que a empresa perdeu US$ 42 bilhões em 2025. A Anthropic detalhou cerca de US$ 518 bilhões em compromissos com serviços de nuvem, capacidade de computação e infraestrutura relacionada nos anos seguintes, de acordo com o processo. A empresa gerou US$ 11,5 bilhões em receita no segundo trimestre de 2026 e está em ritmo para um segundo trimestre consecutivo de lucro operacional ajustado.
A concentração de clientes é outro risco: quase um quarto da receita do ano passado veio de apenas dois clientes. A Anthropic foi avaliada em US$ 965 bilhões em maio e agora mira uma avaliação de mais de US$ 2 trilhões, o que a colocaria perto do nível da SpaceX na época do seu lançamento em junho. A empresa de IA de ponta escolheu a Nasdaq para a oferta e está mirando uma estreia em outubro. Ela também precisa publicar o processo pelo menos 15 dias antes do início do roadshow para investidores.
O pesquisador da Anthropic Jacob Coxon pediu demissão depois de escrever que pessoas construindo IA “acreditam sinceramente que ela poderia nos matar todos até o fim desta década”, informou o Guardian. Um pesquisador sênior de segurança na empresa escreveu depois no X que havia uma chance maior que 10% de a IA “matar todos os humanos” dentro da próxima década. Então, o CEO Dario Amodei publicou um ensaio pedindo para a indústria desacelerar e disse à CNN, em entrevista a Anderson Cooper, que concordava com Coxon mais do que discordava.
Alguns especialistas questionaram se os alertas poderiam sequer ser verificados cientificamente, observou o Guardian, com o CEO da Hugging Face afirmando que os temores estavam exagerados. A OpenAI, por sua vez, cancelou a liberação planejada do modelo GPT-6.1 Astra após testes internos levantarem preocupações com engano e alinhamento. Amodei está programado para ser um dos executivos de IA que deve se reunir com o presidente Donald Trump em uma cúpula na Casa Branca na terça-feira, em meio ao fato de Trump resistir a pedidos para regular a IA e chamar as preocupações de “farsa”, informou a CNN.
O alerta da Anthropic sobre ‘risco para a humanidade’ publicado no processo de IPO apareceu primeiro no Coinfea.