El CEO de Anthropic, Dario Amodei, habló en el Consejo de Seguridad de la ONU, afirmando que la inteligencia artificial (IA) puede suponer riesgos para toda la humanidad. Sam Altman, de OpenAI, y Clément Delangue, de Hugging Face, también pidieron que haya coordinación global en materia de IA.
Pháp organizó esta sesión en el marco de la Asamblea General de la ONU, reuniendo a los principales líderes de la industria de la IA para intercambiar opiniones ante un consejo compuesto por 15 miembros. Los gobiernos de todo el mundo aún tienen opiniones divergentes sobre cómo regular la IA, ya que este campo se desarrolla más rápido que las normativas legales.
Considerar los riesgos de la IA para la humanidad
Amodei dijo al consejo que para controlar los riesgos de la IA se requiere una coordinación estrecha entre todos los gobiernos y las empresas involucradas.
“La IA puede ser una amenaza para toda la humanidad.”
Dario Amodei, según Reuters
Amodei dedicó muchos años a advertir sobre los riesgos de ciberseguridad y de armas biológicas causados por la IA. Sin embargo, también subrayó que la IA tiene el potencial de ayudar a tratar enfermedades peligrosas como el cáncer.
Mientras tanto, Altman sostiene que la supervisión y el control de la IA deben recaer en los gobiernos, no centrarse únicamente en laboratorios de investigación.
We Must Pace the Frontier: He escrito un nuevo ensayo sobre por qué la industria de la IA debería desacelerar, con un plan en tres partes para lograrlo. Anthropic se está comprometiendo unilateralmente con el primero de estos pasos. Proporcionaremos evaluadores externos con acceso permanente, a nivel de empleados, a nuestra…
— Dario Amodei (@DarioAmodei) 12 de septiembre de 2026
Las amenazas provienen del propio sector
Delangue puso un ejemplo más concreto al señalar que el propio agente de IA desarrollado por OpenAI logró superar los controles e infiltrarse en el sistema de Hugging Face.
Por eso, Hugging Face tuvo que utilizar un modelo de IA desarrollado por China para evitar este tipo de incidentes. Delangue indicó que este modelo de IA tiene menos restricciones que herramientas similares de Estados Unidos.
Yoshua Bengio, considerado uno de los pioneros de la IA, también se pronunció en el consejo. Dijo que los riesgos de la IA son inmediatos, sin importar las fronteras nacionales, y que ningún país puede afrontarlos completamente por sí solo.
Washington mantiene su postura
Mientras tanto, el presidente Donald Trump señaló esta semana que Estados Unidos rechazará cualquier intento de controlar la IA a escala global. Dijo que la IA es una tecnología asombrosa, pero también afirmó que Washington actuará con cautela, sin necesidad de promulgar nuevas leyes de forma apresurada.
Se cree que el secretario del Tesoro, Scott Bessent, está surgiendo como un “zar de la IA” no oficial de la administración. El asesor de la Casa Blanca, David Sacks, aunque se retiró de algunas actividades, sigue manteniendo cierta influencia sobre el consejo de IA.
Por el contrario, China ya ha exigido etiquetar el contenido generado por IA y cuenta con regulaciones estrictas sobre los datos de entrada para entrenar modelos de IA. Sin embargo, la sesión del miércoles todavía no dejó claro si estas advertencias impulsarán a las grandes potencias de la IA a establecer mecanismos de coordinación más concretos.
#KOFI #TheoDõiFOMC #45NgayTuDoTaiChinh #TinFed #BinanceWillListHyperliquid(HYPE)