El presidente Donald Trump y seis líderes tecnológicos firmaron el martes un acuerdo voluntario sobre IA, pidiendo a las empresas que controlen sus propios sistemas de IA mientras Trump rechaza los llamados a establecer salvaguardias federales.
Trump publicó el documento de una página en Truth Social. La oposición de los centros de datos está creciendo, y los agentes de IA, software que actúa en nombre de un usuario, se han descontrolado en varios incidentes de alto perfil.
Qué le pide el acuerdo de IA a las empresas tecnológicas que hagan
El acuerdo apila cuatro capas de supervisión, informó Reuters. Las empresas primero construirían controles internos para vigilar cómo se comportan los modelos desde el entrenamiento hasta el lanzamiento, destacando riesgos de piratería, biológicos y químicos. Un equipo interno verificaría que esos controles funcionen correctamente.
Además, cada empresa se asociaría con un auditor externo para realizar pruebas independientes. Un comité independiente del consejo revisaría los hallazgos de ambos auditores y de los equipos de control.
AP informó que Trump firmó junto a Dario Amodei, de Anthropic; Sundar Pichai, de Google; Mark Zuckerberg, de Meta; Greg Brockman, presidente de OpenAI; Jensen Huang, de Nvidia; y Elon Musk, fundador de xAI.
“Las empresas participantes se reunirán regularmente para establecer estándares y mejores prácticas que mejoren la seguridad de sus sistemas.”
Acuerdo de la Casa Blanca, vía Reuters
Por qué el acuerdo de IA podría tener un peso limitado
Sin embargo, el compromiso es voluntario. El texto dice que codificar los pasos en ley podría tener sentido con el tiempo, y Trump calificó el compromiso como moralmente vinculante, sugiriendo que se basa en la reputación, no en la ley.
El informe del documento hasta ahora no dice quién selecciona a los auditores, qué normas aplicarán ni qué ocurre cuando falla un control. Trump dijo que nombrará a un supervisor en los próximos días y sugirió que unas 10 personas integrarían un comité.
Trump descartó las llamadas para poner vallas de seguridad a la IA a principios de este mes y el martes enmarcó la IA como una carrera con China que no deja lugar para el segundo puesto.
Aun así, la industria se ha dividido en el debate sobre la ralentización de la IA. Amodei, quien pidió una pausa en un ensayo a principios de este mes, dijo que la tecnología conlleva riesgos reales y que la respuesta aún está en discusión.
Debemos marcar el ritmo del límite: He escrito un nuevo ensayo sobre por qué la industria de la IA debería frenar, con un plan en tres partes para hacerlo. Anthropic se compromete unilateralmente con el primero de estos pasos. Proporcionaremos a evaluadores externos acceso permanente a nivel de empleados a...
— Dario Amodei (@DarioAmodei) 12 de septiembre de 2026
En cambio, el presidente de la Cámara, Mike Johnson, ha argumentado que la seguridad de la IA recae en los desarrolladores.
Por lo tanto, la próxima prueba podría llegar en cuestión de días. La elección de Trump para el supervisor y el comité prometido podrían mostrar si el acuerdo obtiene una aplicación externa.