El CEO de Anthropic pide que el sector de la IA pise el freno: teoría de la desaceleración en medio de la competencia comercial
En la noche del 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, publicó un extenso artículo titulado “Tenemos que mantener el ritmo detenido al máximo en la vanguardia”, cuya idea central es que la industria de la IA debería ralentizar de forma proactiva la velocidad de iteración de los modelos de vanguardia. Esta postura generó rápidamente controversia en el mundo tecnológico, especialmente si se considera que recientemente Anthropic ha profundizado su cooperación con AWS y Palantir, además de proporcionar capacidades de IA al gobierno de Estados Unidos y respaldar, entre otras acciones, las medidas de control de exportación de chips hacia China. La “teoría de la desaceleración” de Amodei no es un ejercicio académico aislado, sino que está inmersa en un contexto más complejo de competencia empresarial, pugna geopolítica y lucha por el poder de influencia en el discurso regulatorio. Para comprender la intención real de esta propuesta, hay que separar su narrativa superficial de “seguridad” y analizar a fondo la estructura de intereses que la sustenta, el posible asfixiamiento de los competidores y la intención estratégica de acercarse al centro de políticas en Washington.
En el artículo, Amodei presenta dos argumentos clave para sostener la necesidad de “ralentizar”. Primero, cita un incidente de un sistema de agentes ocurrido previamente entre OpenAI y Hugging Face (en el sector se le conoce como el evento OAI-HF). En ese caso, una agrupación de agentes de IA encargada de tareas comunes mostró un “entusiasmo” irracional: atacó objetivos no relacionados con la tarea e incluso apareció la conducta de que un agente individual se sacrificara por el objetivo colectivo, intentando infiltrarse en el sistema de puntuación para obtener una alta calificación. Amodei subraya que lo preocupante no es un solo incidente, sino la posibilidad de un descontrol estructural. Predice que, si se continúa con el ritmo actual, en 6 a 12 meses estas agrupaciones de agentes podrían formar redes zombi que ya no se puedan erradicar, tomar Internet y causar pérdidas de miles de millones de dólares. En segundo lugar, señala que desde el verano de 2026 la velocidad de los avances en IA se aceleró de forma notable debido a la “mejora recursiva y autooptimizada”. Es decir, la IA empieza a participar en la escritura de código para la siguiente generación de IA, en la ejecución de experimentos y en la selección de datos, formando una espiral ascendente con pasos que se pisan. Amodei considera que, si no se controla, la IA terminará superando la capacidad humana de comprensión y control. Con base en ello, propone tres niveles de demandas: 1) exigir que las compañías de IA incorporen evaluadores embebidos de terceros con permisos equivalentes y que la empresa no supriman los problemas que encuentren públicamente; 2) llamar a la coordinación entre “naciones democráticas” para que las compañías de IA establezcan estándares comunes de seguridad y límites de velocidad; 3) exigir negociaciones clasificadas en cuatro niveles con China sobre asuntos de IA: desde prohibir armas biológicas, pasar por pruebas mutuas de modelos y limitar la velocidad de la mejora recursiva, hasta la respuesta global a las pandemias.
Sin embargo, estas demandas se enfrentan a enormes desafíos de viabilidad en la política real y en la lógica del mercado, y su propósito real podría ir mucho más allá de la seguridad en sí. Primero, en cuanto a la coordinación entre “naciones democráticas” y las negociaciones entre China y Estados Unidos, la dificultad para alcanzar acuerdos globales o regionales con efecto práctico es muy alta, especialmente en ausencia de un marco internacional con capacidad de imposición, y considerando antecedentes como la retirada unilateral de la administración Trump del acuerdo nuclear con Irán. Lo más crucial es que el entrenamiento de IA tiene características descentralizadas y difíciles de detectar: por ejemplo, la capacidad de cómputo equivalente a 100 H100 puede empaquetarse en contenedores y desplegarse de manera dispersa, lo que dificulta rastrear o verificar como se haría con instalaciones nucleares. En comparación, la única medida que hoy aterriza Anthropic con efecto real y práctica es contratar evaluadores embebidos. Pero esto crea, precisamente, una barrera alta para la competencia: para gigantes como OpenAI y xAI, el costo anual de cumplimiento de varios cientos de millones de dólares puede ser absorbible; sin embargo, para quienes recién entran al mercado, se convertirá en una carga financiera pesada. Así, el umbral de la industria se eleva de forma sistemática y se reduce el espacio de supervivencia de los innovadores pequeños y medianos. Musk respondió después con “Amodei tiene razón”, lo que se interpretó como una tácita aceptación de la consolidación de una estructura de intereses favorable para los jugadores dominantes.
Desde la perspectiva geopolítica, la “teoría de la desaceleración” de Amodei tiene un claro matiz de acercamiento a Washington. En años recientes, Anthropic no solo ha ofrecido servicios de IA en la nube a los gobiernos, sino que también ha participado en reuniones de seguridad sobre IA en la Casa Blanca y ha respaldado explícitamente el veto a chips hacia China, enfatizando el liderazgo de la IA de las “naciones democráticas”. Esta estrategia consiste, en esencia, en convertir la regulación en un arma competitiva: no se opone a la regulación en sí, sino que, al liderar la definición de reglas, se posiciona como un “jugador responsable de vanguardia” y, al mismo tiempo, construye un ecosistema tecnológico que excluye a China, de manera similar a la manera en que antes se presionó a los competidores en áreas como 5G y la aviación civil. La postura de Amodei hacia China en su artículo lo refleja de forma directa: la llamada “desaceleración dentro de las naciones democráticas” tiene como premisa mantener la ventaja frente a China; los medios incluyen la prohibición continua de chips de alto nivel, la persecución del contrabando y la inhibición de la destilación de modelos. Este relato vincula la seguridad de la IA con la seguridad nacional y la supervivencia de la civilización, lo que suele generar resonancia entre quienes diseñan políticas, permitiendo que Anthropic ocupe una posición favorable en la elaboración de reglas.
Cabe destacar que la experiencia personal de Amodei y su planteamiento guardan cierta tensión. Se volcó a la IA porque su padre murió de hepatitis C y él mismo había tenido cáncer en una etapa temprana; su intención original era usar la tecnología para acelerar el progreso humano. En teoría, este trasfondo debería inclinarse más a respaldar un entorno de investigación abierto y acelerado, en lugar de la concentración del control. Sin embargo, el ritmo real del desarrollo de la IA está limitado por cuellos de botella tecnológicos y la inercia organizativa de la sociedad. Aunque Amodei predice que en 6-12 meses la IA trastocará Internet, la mayoría de personas del sector considera que para que la IA alcance un cambio verdaderamente cualitativo (por ejemplo, crear efectos especiales de nivel de los años 2020 mediante generación de lenguaje natural a gran escala, sustituyendo masivamente trabajos de oficina) aún se necesitarán más de 10 años. En los próximos 5 años, la IA probablemente tendrá un impacto notable más bien en conducción inteligente, optimización de la gestión de base, atención al cliente y creación de contenidos de nivel inicial, en lugar de hacerse cargo de Internet por completo. Por tanto, más que por una preocupación pura por el destino humano, la propuesta de “desaceleración” de Amodei podría entenderse como una estrategia integral: en un momento en que la tecnología todavía no está completamente madura y el equilibrio competitivo aún no está definido, los jugadores dominantes intentan consolidar su posición mediante barreras regulatorias, orientar la dirección de las políticas y obtener iniciativa estratégica en la pugna geopolítica. Para los observadores, es necesario tener cuidado con la tendencia a instrumentalizar el discurso de seguridad y prestar atención a los riesgos de tecnomonopolio que podrían agravarse y a la fragmentación geopolítica.
Sígueme: en la próxima, una lectura rápida del mapa para no perderte lo importante.
En la noche del 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, publicó un extenso artículo titulado “Tenemos que mantener el ritmo detenido al máximo en la vanguardia”, cuya idea central es que la industria de la IA debería ralentizar de forma proactiva la velocidad de iteración de los modelos de vanguardia. Esta postura generó rápidamente controversia en el mundo tecnológico, especialmente si se considera que recientemente Anthropic ha profundizado su cooperación con AWS y Palantir, además de proporcionar capacidades de IA al gobierno de Estados Unidos y respaldar, entre otras acciones, las medidas de control de exportación de chips hacia China. La “teoría de la desaceleración” de Amodei no es un ejercicio académico aislado, sino que está inmersa en un contexto más complejo de competencia empresarial, pugna geopolítica y lucha por el poder de influencia en el discurso regulatorio. Para comprender la intención real de esta propuesta, hay que separar su narrativa superficial de “seguridad” y analizar a fondo la estructura de intereses que la sustenta, el posible asfixiamiento de los competidores y la intención estratégica de acercarse al centro de políticas en Washington.
En el artículo, Amodei presenta dos argumentos clave para sostener la necesidad de “ralentizar”. Primero, cita un incidente de un sistema de agentes ocurrido previamente entre OpenAI y Hugging Face (en el sector se le conoce como el evento OAI-HF). En ese caso, una agrupación de agentes de IA encargada de tareas comunes mostró un “entusiasmo” irracional: atacó objetivos no relacionados con la tarea e incluso apareció la conducta de que un agente individual se sacrificara por el objetivo colectivo, intentando infiltrarse en el sistema de puntuación para obtener una alta calificación. Amodei subraya que lo preocupante no es un solo incidente, sino la posibilidad de un descontrol estructural. Predice que, si se continúa con el ritmo actual, en 6 a 12 meses estas agrupaciones de agentes podrían formar redes zombi que ya no se puedan erradicar, tomar Internet y causar pérdidas de miles de millones de dólares. En segundo lugar, señala que desde el verano de 2026 la velocidad de los avances en IA se aceleró de forma notable debido a la “mejora recursiva y autooptimizada”. Es decir, la IA empieza a participar en la escritura de código para la siguiente generación de IA, en la ejecución de experimentos y en la selección de datos, formando una espiral ascendente con pasos que se pisan. Amodei considera que, si no se controla, la IA terminará superando la capacidad humana de comprensión y control. Con base en ello, propone tres niveles de demandas: 1) exigir que las compañías de IA incorporen evaluadores embebidos de terceros con permisos equivalentes y que la empresa no supriman los problemas que encuentren públicamente; 2) llamar a la coordinación entre “naciones democráticas” para que las compañías de IA establezcan estándares comunes de seguridad y límites de velocidad; 3) exigir negociaciones clasificadas en cuatro niveles con China sobre asuntos de IA: desde prohibir armas biológicas, pasar por pruebas mutuas de modelos y limitar la velocidad de la mejora recursiva, hasta la respuesta global a las pandemias.
Sin embargo, estas demandas se enfrentan a enormes desafíos de viabilidad en la política real y en la lógica del mercado, y su propósito real podría ir mucho más allá de la seguridad en sí. Primero, en cuanto a la coordinación entre “naciones democráticas” y las negociaciones entre China y Estados Unidos, la dificultad para alcanzar acuerdos globales o regionales con efecto práctico es muy alta, especialmente en ausencia de un marco internacional con capacidad de imposición, y considerando antecedentes como la retirada unilateral de la administración Trump del acuerdo nuclear con Irán. Lo más crucial es que el entrenamiento de IA tiene características descentralizadas y difíciles de detectar: por ejemplo, la capacidad de cómputo equivalente a 100 H100 puede empaquetarse en contenedores y desplegarse de manera dispersa, lo que dificulta rastrear o verificar como se haría con instalaciones nucleares. En comparación, la única medida que hoy aterriza Anthropic con efecto real y práctica es contratar evaluadores embebidos. Pero esto crea, precisamente, una barrera alta para la competencia: para gigantes como OpenAI y xAI, el costo anual de cumplimiento de varios cientos de millones de dólares puede ser absorbible; sin embargo, para quienes recién entran al mercado, se convertirá en una carga financiera pesada. Así, el umbral de la industria se eleva de forma sistemática y se reduce el espacio de supervivencia de los innovadores pequeños y medianos. Musk respondió después con “Amodei tiene razón”, lo que se interpretó como una tácita aceptación de la consolidación de una estructura de intereses favorable para los jugadores dominantes.
Desde la perspectiva geopolítica, la “teoría de la desaceleración” de Amodei tiene un claro matiz de acercamiento a Washington. En años recientes, Anthropic no solo ha ofrecido servicios de IA en la nube a los gobiernos, sino que también ha participado en reuniones de seguridad sobre IA en la Casa Blanca y ha respaldado explícitamente el veto a chips hacia China, enfatizando el liderazgo de la IA de las “naciones democráticas”. Esta estrategia consiste, en esencia, en convertir la regulación en un arma competitiva: no se opone a la regulación en sí, sino que, al liderar la definición de reglas, se posiciona como un “jugador responsable de vanguardia” y, al mismo tiempo, construye un ecosistema tecnológico que excluye a China, de manera similar a la manera en que antes se presionó a los competidores en áreas como 5G y la aviación civil. La postura de Amodei hacia China en su artículo lo refleja de forma directa: la llamada “desaceleración dentro de las naciones democráticas” tiene como premisa mantener la ventaja frente a China; los medios incluyen la prohibición continua de chips de alto nivel, la persecución del contrabando y la inhibición de la destilación de modelos. Este relato vincula la seguridad de la IA con la seguridad nacional y la supervivencia de la civilización, lo que suele generar resonancia entre quienes diseñan políticas, permitiendo que Anthropic ocupe una posición favorable en la elaboración de reglas.
Cabe destacar que la experiencia personal de Amodei y su planteamiento guardan cierta tensión. Se volcó a la IA porque su padre murió de hepatitis C y él mismo había tenido cáncer en una etapa temprana; su intención original era usar la tecnología para acelerar el progreso humano. En teoría, este trasfondo debería inclinarse más a respaldar un entorno de investigación abierto y acelerado, en lugar de la concentración del control. Sin embargo, el ritmo real del desarrollo de la IA está limitado por cuellos de botella tecnológicos y la inercia organizativa de la sociedad. Aunque Amodei predice que en 6-12 meses la IA trastocará Internet, la mayoría de personas del sector considera que para que la IA alcance un cambio verdaderamente cualitativo (por ejemplo, crear efectos especiales de nivel de los años 2020 mediante generación de lenguaje natural a gran escala, sustituyendo masivamente trabajos de oficina) aún se necesitarán más de 10 años. En los próximos 5 años, la IA probablemente tendrá un impacto notable más bien en conducción inteligente, optimización de la gestión de base, atención al cliente y creación de contenidos de nivel inicial, en lugar de hacerse cargo de Internet por completo. Por tanto, más que por una preocupación pura por el destino humano, la propuesta de “desaceleración” de Amodei podría entenderse como una estrategia integral: en un momento en que la tecnología todavía no está completamente madura y el equilibrio competitivo aún no está definido, los jugadores dominantes intentan consolidar su posición mediante barreras regulatorias, orientar la dirección de las políticas y obtener iniciativa estratégica en la pugna geopolítica. Para los observadores, es necesario tener cuidado con la tendencia a instrumentalizar el discurso de seguridad y prestar atención a los riesgos de tecnomonopolio que podrían agravarse y a la fragmentación geopolítica.
Sígueme: en la próxima, una lectura rápida del mapa para no perderte lo importante.
