#AnthropicCEO呼吁放缓AI发展 Dizem que é “desacelerar”, não “parar” a IA: é ajustar o ritmo para as capacidades de ponta. Os modelos já conseguem escrever código, executar agentes e participar na criação de uma nova geração de modelos, mas a afinação/alinhamento e a avaliação não acompanharam;
Há três camadas a considerar:
No lado técnico: melhoria recursiva e colaboração entre múltiplos agentes. O risco deixa de ser “errar uma frase” e passa a ser “ação autônoma/atacar sistemas”.
No lado comercial: a Anthropic vende “os modelos de fronteira mais seguros”, transformando a segurança em marca e barreira; avaliações de terceiros em campo favorecem as grandes empresas, enquanto startups e projetos open source ficam mais pressionados.
No lado geopolítico: se os EUA pararem sozinhos e a China não parar, ele perde. Por isso, ele ao mesmo tempo pede desaceleração e defende restrições a chips, além de querer que países democráticos coordenem primeiro.
Em resumo, não é só marketing de fim do mundo, nem é apenas altruísmo — é a soma de risco que se aproxima + regulamentação a caminho + grandes empresas disputando padrões.
Há três camadas a considerar:
No lado técnico: melhoria recursiva e colaboração entre múltiplos agentes. O risco deixa de ser “errar uma frase” e passa a ser “ação autônoma/atacar sistemas”.
No lado comercial: a Anthropic vende “os modelos de fronteira mais seguros”, transformando a segurança em marca e barreira; avaliações de terceiros em campo favorecem as grandes empresas, enquanto startups e projetos open source ficam mais pressionados.
No lado geopolítico: se os EUA pararem sozinhos e a China não parar, ele perde. Por isso, ele ao mesmo tempo pede desaceleração e defende restrições a chips, além de querer que países democráticos coordenem primeiro.
Em resumo, não é só marketing de fim do mundo, nem é apenas altruísmo — é a soma de risco que se aproxima + regulamentação a caminho + grandes empresas disputando padrões.