De acordo com a CNBC, pesquisadores da Anthropic e da OpenAI alertaram nesta semana que a melhoria recursiva de si mesmo, ou RSI, poderia aumentar rapidamente as capacidades da IA e reduzir o controle humano sobre como novos modelos são treinados. Evan Hubinger, líder de alinhamento na Anthropic, disse no X que acredita que há mais de 10% de chance de a IA matar todos os humanos dentro da próxima década, enquanto o cientista-chefe da OpenAI, Jakub Pachocki, afirmou estar preocupado com o fato de ninguém estar preparado para as consequências de uma escalada rápida e contínua da inteligência de máquinas. A Anthropic disse em junho que seus dados internos mostraram que o Claude estava acelerando o desenvolvimento de IA e que o processo estava acontecendo mais rápido do que o esperado. A empresa também afirmou, em um post no blog de agosto, que seus engenheiros agora enviam oito vezes mais código por trimestre do que enviavam entre 2021 e 2025.