En hora local, el 5 de junio, la startup de IA Anthropic publicó un artículo en su blog, instando a los principales laboratorios de IA a considerar seriamente desacelerar el desarrollo de modelos de vanguardia. La compañía advirtió que la velocidad de evolución de los sistemas de IA es demasiado rápida y que pronto podrían lograr una 'mejora recursiva' sin intervención humana, lo que generaría riesgos sociales que no se pueden ignorar.
Los datos internos de Anthropic muestran que las capacidades de su modelo más avanzado están mejorando a un ritmo asombroso. La llamada 'mejora recursiva' se refiere a la capacidad de los sistemas de IA para ayudar a mejorar el siguiente modelo, optimizando sus capacidades o acelerando los procesos de desarrollo.
Una vez que esto dependa menos de ingenieros humanos, la velocidad de avance de la IA podría superar significativamente los marcos existentes de regulación y evaluación de seguridad. Los autores del artículo, el jefe del Instituto de Investigación de Anthropic y el responsable de políticas, escribieron: 'Creemos que sería algo positivo si el mundo pudiera tener la opción de desacelerar o pausar temporalmente el desarrollo de IA de vanguardia, para que la estructura social y la investigación de coherencia se pongan al día con el avance tecnológico.' El artículo también propuso llegar a un acuerdo global sobre cómo desacelerar el desarrollo y establecer un mecanismo de verificación para supervisar el cumplimiento de la industria.
Este llamado a la atención va mucho más allá del aspecto técnico. Por un lado, Anthropic se encuentra en la vanguardia de una feroz competencia: acaba de completar una ronda de financiamiento, alcanzando una valoración de 9650 millones de dólares, superando por primera vez a su rival OpenAI (8520 millones de dólares), y ya ha presentado en secreto una solicitud de IPO, con planes de debutar en Wall Street tan pronto como este otoño.
Por otro lado, su postura de seguridad ha estado en controversia durante mucho tiempo. El capitalista de riesgo y asesor informal de Trump, David Sacks, acusó a la compañía de llevar a cabo una 'agenda de captura regulatoria', es decir, sofocar a la competencia bajo el pretexto de la regulación. El profesor de la Escuela Wharton de la Universidad de Pensilvania, Ethan Mollick, comentó que el artículo de Anthropic 'tiene algo de autorreflexión y algo de marketing', pero que su juicio sobre la dirección reciente de la IA 'merece atención'.
Es importante notar que este llamado se produce en un momento en que el marco regulatorio de IA de EE.UU. está tomando forma rápidamente. El 2 de junio, el presidente Trump firmó una orden ejecutiva que exige que empresas de IA como OpenAI, Google y Anthropic abran una ventana de prueba de ciberseguridad de hasta 30 días al gobierno antes de hacer público el lanzamiento de sus modelos más recientes. Al mismo tiempo, el Congreso de EE.UU. está promoviendo legislación bipartidista sobre IA, exigiendo a los principales desarrolladores que revelen la seguridad y los riesgos de seguridad de los nuevos modelos.
Esto significa que la discusión sobre si la competencia de IA necesita ser regulada está pasando de un debate interno de la industria al núcleo de la discusión en políticas y mercados de capital. La declaración directa de Anthropic sin duda eleva este tema a un nivel más alto de toma de decisiones públicas.