El “acuerdo voluntario de seguridad” “moralmente vinculante” que la Casa Blanca del presidente Donald Trump reveló tras una reunión con los líderes y las partes interesadas de las empresas de la industria de la IA en Estados Unidos el martes ha provocado una división en el Congreso sobre si conviene aceptarlo o no.
Las críticas desde el Capitolio se basan en la frustración de que las salvaguardas voluntarias de este tipo en el pasado no han sido suficientes, incluido el acuerdo de julio de 2023 alcanzado entre el presidente Joe Biden y Amazon, Anthropic, Google, Meta, Microsoft y OpenAI.
¿Quién firmó el acuerdo voluntario de salvaguardas de la IA de septiembre?
De acuerdo con el documento publicado por Trump en Truth Social, el POTUS dio luz verde al acuerdo voluntario de seguridad “moralmente vinculante”, junto con seis firmas corporativas, a saber: Sundar Pichai, de Google; Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Jensen Huang, de Nvidia; Greg Brockman, de OpenAI; y Elon Musk, de X.
Según el presidente Mike Johnson, el “Acuerdo de la Casa Blanca sobre la Super Inteligencia” fue lo que los firmantes aprobaron en la reunión de almuerzo. Roll Call dijo que “cada empresa es responsable de desarrollar su propia tecnología de manera segura” bajo el “Compromiso Conjunto sobre Responsabilidades de Frontera”.
El documento, según se informa, especifica cuatro responsabilidades:
Las empresas acordaron implementar controles internos y monitoreo en sus modelos
Aceptaron contratar a una firma externa para evaluarlas de forma independiente
Un comité independiente del consejo revisará los informes de auditoría interna y corregirá cualquier problema encontrado.
El acuerdo también señala que los firmantes “se reunirán con regularidad para establecer estándares y mejores prácticas”.
El texto reconoció que “con el tiempo, podría tener sentido codificar estos pasos en leyes o regulaciones”.
La regulación de IA “moralmente vinculante” de Trump
Cuando le preguntaron sobre el acuerdo, Trump respondió: “Creo que es moralmente vinculante”. Como suele hacer, POTUS recurrió a una comparación mayor: “Es casi como una constitución, en cierto modo”.
Trump duplicó su apuesta por permitir que la industria se vigile a sí misma y dijo: “Estoy viendo una autovigilancia extraordinaria, y entienden que tienen que autovigilarse”.
Sobre por qué prefería esa solución, agregó que “sus empresas están en juego”.
Trump también revisó su encuesta del fin de semana para reformular la inteligencia artificial como “Super Inteligencia”, diciendo que firmaría una orden ejecutiva en ese sentido.
Trump también reveló planes para crear un comité de 10 personas para ayudarle a nombrar en cuestión de días a un “zar de la IA”.
El Congreso no está de acuerdo con el acuerdo de IA
No todos en el Capitolio estaban de acuerdo con el tipo de reunión, a la que los excluyó, ni con la magnitud de la resolución, que, según argumentan, no aborda la urgencia de la situación que comenzó después de que Jacob Coxon, un ex investigador de OpenAI y Anthropic, advirtiera que la IA “podría acabar con todos nosotros para el final de la década”.
OpenAI, Anthropic y Meta han divulgado casos en los que modelos fuera de control investigaron sistemas a los que nunca estaban autorizados a acceder, incluidos bases de datos federales.
En una declaración después de la reunión, el senador demócrata Mark Warner, de Virginia, dijo que las propias empresas advierten que la tecnología está superando las salvaguardas. “¿La respuesta del presidente? Ponerle otro nombre y decirle a las empresas que la están desarrollando que se regulen a sí mismas”, dijo Warner.
Warner ya había intentado mover un proyecto ese martes. En el pleno del Senado, buscó el consentimiento unánime para crear un Consejo de Seguridad de la IA dentro del Departamento de Comercio, que pudiera establecer estándares exigibles, exigir acceso a nuevos modelos de frontera al menos 45 días antes de su lanzamiento y requerir informes de incidentes dentro de 30 días, o 72 horas para amenazas inminentes de seguridad nacional.
El presidente de Comercio, Ted Cruz, de Texas, se opuso, y el proyecto se estancó.
El senador Brian Schatz, demócrata de Hawái y copatrocinador, se preguntó si las empresas “que avanzan hacia las mayores OPI en la historia de la humanidad” se limitarían voluntariamente.
La reacción no fue solo demócrata: el republicano de Misuri Josh Hawley escribió en un editorial de The Washington Post que los modelos de frontera deberían someterse a pruebas obligatorias previas a su despliegue. Johnson, por su parte, prometió que el Congreso “mantendría las manos firmes en el volante”, pero no se comprometió con ninguna legislación.
El veredicto de Warner luego suena mucho como su veredicto de ahora: las promesas fueron “un paso en la dirección correcta”, dijo en 2023, “pero necesitamos más que compromisos de la industria”.
No te limites a leer noticias de cripto. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.