Hace unos meses, tuve una conversación con un ex director de Riesgo. Le hice una pregunta que muchas personas están empezando a hacerse hoy: "Si la IA puede analizar millones de escenarios de riesgo de mercado en cuestión de segundos, ¿las organizaciones seguirán necesitando a los gestores de riesgo?" Él sonrió y respondió: "La mayoría de la gente cree que la parte más difícil de la gestión del riesgo es calcular el riesgo. No lo es. Lo más difícil es decidir qué riesgos vale la pena asumir. Dos instituciones pueden observar los mismos datos, usar los mismos modelos y llegar a las mismas conclusiones, pero tomar decisiones completamente distintas porque no comparten la misma tolerancia al riesgo."
Esa respuesta se me quedó grabada porque destacó una distinción que a menudo se pasa por alto. La IA puede estimar probabilidades, pero no puede decidir qué nivel de riesgo está dispuesta a aceptar una organización. Eso no es un cálculo matemático. Es una decisión empresarial moldeada por prioridades, rendición de cuentas y valores. Aquí es donde termina la computación y comienza el juicio humano.
Visto desde esta perspectiva, @NewtonProtocol es más que infraestructura para la IA. Lo veo como una Capa de Autorización que se sitúa entre lo que la IA es capaz de hacer y lo que una organización está dispuesta a permitirle hacer. Gran parte del debate sobre la IA se centra en una ejecución más rápida, mejores predicciones o modelos más sofisticados. Pero la pregunta más importante puede ser mucho más sencilla: ¿a qué debe estar autorizada la IA para hacer?
Un agente de IA puede identificar una oportunidad de mercado atractiva, pero si actuar sobre ella viola la política de riesgo de una organización, ¿debería permitirse la ejecución? Aquí es donde una Capa de Autorización se vuelve valiosa. Su propósito no es hacer que la IA sea más inteligente. Su propósito es definir los límites dentro de los cuales la IA puede operar. Antes de preguntar qué puede hacer la IA, las organizaciones primero necesitan decidir qué se le permite hacer a la IA.
Hay otro reto que merece una atención igual. Muchas personas piensan en el apetito de riesgo como un número fijo, pero en realidad está en constante evolución. Las condiciones de mercado cambian, las regulaciones cambian, la liquidez cambia e incluso las prioridades de la dirección pueden cambiar con el tiempo. Como resultado, la política que era adecuada ayer puede ya no reflejar los objetivos de la organización mañana.
Si un sistema solo aplica una política estática, con el tiempo esa política puede convertirse en una limitación en lugar de un salvaguarda. La IA puede ejecutar cada instrucción perfectamente mientras sigue una guía que ya no está alineada con los objetivos actuales de la organización. En ese caso, el problema no es una ejecución deficiente. El problema es una política desactualizada.
Por esa razón, creo que el futuro de la gobernanza de la IA no se trata solo de Aplicación de Políticas, sino también de Evolución de Políticas. Una Capa de Autorización sólida debería permitir que las organizaciones actualicen políticas de forma segura, transparente y eficiente a medida que cambian las condiciones del negocio, sin reconstruir todo el sistema. La adaptabilidad es tan importante como la precisión.
Por eso creo que la competencia futura entre instituciones financieras no se definirá únicamente por quién posee los modelos de IA más potentes. Cada vez dependerá más de quién pueda traducir los principios de su negocio, su marco de gobernanza y su apetito de riesgo en políticas claras y verificables que los agentes de IA puedan seguir de forma consistente.
Desde esa perspectiva, @NewtonProtocol representa más que infraestructura técnica. Ofrece un marco en el que la velocidad de la IA se equilibra con la rendición de cuentas humana, permitiendo que la automatización siga alineada con los valores y objetivos de las organizaciones que la implementan.
En los próximos años, la verdadera ventaja competitiva quizá no provenga de construir solo una IA más inteligente. Puede venir de construir mejores políticas que definan cómo debe usarse esa inteligencia.
¿Qué crees que importará más en la economía de la IA: modelos cada vez más potentes, o mejores políticas de autorización que definan los límites de sus decisiones?
