Según CNBC, los investigadores de Anthropic y OpenAI advirtieron esta semana que la mejora recursiva de sí misma, o RSI, podría aumentar rápidamente las capacidades de la IA y reducir el control humano sobre cómo se entrenan los nuevos modelos. Evan Hubinger, responsable de la alineación en Anthropic, dijo en X que cree que hay más de un 10% de probabilidades de que la IA mate a todos los humanos dentro de la próxima década, mientras que el director científico de OpenAI, Jakub Pachocki, señaló que le preocupaba que nadie estuviera preparado para las consecuencias de un aumento continuo y acelerado de la inteligencia de las máquinas. Anthropic dijo en junio que sus datos internos mostraban que Claude estaba acelerando el desarrollo de la IA y que el proceso estaba ocurriendo más rápido de lo esperado. La empresa también dijo, en una publicación de blog de agosto, que sus ingenieros ahora envían ocho veces más código por trimestre que el que enviaban entre 2021 y 2025.