Cuanto más sigo proyectos de IA en el mundo cripto, más creo que estamos haciendo la pregunta equivocada.
Parece que a todo el mundo le obsesiona hacer que los agentes de IA sean más autónomos. Cada anuncio promete modelos más inteligentes, ejecución más rápida y menos implicación humana. El supuesto es sencillo: si la IA se vuelve lo suficientemente inteligente, todo lo demás encajará por sí solo.
No estoy convencido.
Creo que el problema más difícil no es lograr que la IA sea capaz de hacer más. Es decidir lo que a la IA nunca se le debe permitir hacer.
Esa diferencia parece pequeña hasta que entra en juego el dinero real.
Imagina darle a alguien las llaves de tu casa. No importa qué tan responsable sea. Aun así, le indicas qué habitaciones son privadas, cuándo puede entrar y qué se le permite usar. No creamos límites porque esperemos que la gente falle cada día. Los creamos porque, inevitablemente, los errores terminan ocurriendo.
Creo que la IA merece el mismo trato.
Un agente de IA que gestione una cartera cripto podría analizar los mercados mejor de lo que yo puedo. Podría monitorear los precios veinticuatro horas al día, reaccionar a oportunidades en segundos y ejecutar estrategias sin emociones. Esas son ventajas reales.
Pero nada de eso responde una pregunta mucho más simple.
¿Debería permitírsele gastar cada dólar de la cartera?
¿Debería poder interactuar libremente con cualquier protocolo?
¿Debería poder transferir fondos entre cadenas sin pedirlo?
La inteligencia no responde esas preguntas.
Los límites sí.
Una cosa que sigo notando es que la industria a menudo trata la libertad como progreso. Cuantas más acciones pueda realizar una IA, más avanzada parece. Sin embargo, las instituciones han pasado décadas construyendo sistemas que funcionan casi en la dirección contraria.
Los bancos no otorgan a los traders autoridad ilimitada. Los gestores de activos operan bajo mandatos de inversión. Los equipos de finanzas corporativas tienen límites de aprobación para distintos tamaños de transacción. Incluso los empleados con experiencia no pueden simplemente mover fondos de la empresa donde quieran.
El objetivo no es ralentizar a las personas.
Es reducir el costo del error humano.
A medida que la IA empiece a asumir parte de esas responsabilidades, no veo por qué esa filosofía debería desaparecer de repente.
De hecho, creo que se vuelve aún más importante.
La IA no se cansa, pero tampoco se detiene a cuestionar su propia autoridad. Si una regla le dice que actúe, actúa. Si la regla está incompleta, desactualizada o está mal escrita, la IA no levantará la mano para preguntar si la decisión sigue teniendo sentido.
Simplemente ejecutará.
Por eso creo que a veces la gente confunde inteligencia con criterio.
Están relacionadas, pero no son lo mismo.
Una IA muy capaz aún puede tomar una terrible decisión financiera si los límites que la rodean están mal. El fallo no siempre está en el modelo. A veces está en los permisos que le dimos.
Por eso, proyectos como Newton Protocol llamaron mi atención.
Lo que me interesó no fue la promesa de una IA más inteligente. Fue la idea de que la autorización debe ocurrir antes de la ejecución. En lugar de asumir que una IA con acceso a una cartera debería ser confiada automáticamente, el protocolo introduce políticas programables que definen lo que la IA está autorizada a hacer desde el principio.
Para mí, esa es una forma más saludable de pensar sobre la automatización.
La IA aún puede analizar oportunidades.
Aun así, puede hacer recomendaciones.
Aun así, puede preparar transacciones.
Pero si esas acciones están realmente permitidas, se convierte en una decisión aparte.
Esa separación parece importante.
Por supuesto, unos mejores límites no son una solución perfecta.
Alguien aún tiene que escribir las políticas. Alguien tiene que actualizarlas cuando cambian las condiciones del mercado. Las reglas mal diseñadas pueden volverse tan peligrosas como no tener reglas en absoluto. Un sistema que bloquea cada transacción no es útil, y uno que aprueba todo no es seguro.
Encontrar el equilibrio probablemente sea mucho más difícil que construir la IA en sí.
Por eso no creo que esto sea solo un desafío técnico.
Es un desafío de gobernanza.
Es un desafío operativo.
Y, en muchos sentidos, es un desafío humano.
El futuro de la IA en finanzas probablemente no se decidirá por el modelo que tenga la puntuación de referencia más alta. Se verá moldeado por qué sistemas las personas sienten que pueden confiar para manejar activos reales.
La confianza rara vez proviene de la libertad ilimitada.
Por lo general, proviene de saber exactamente cuáles son los límites.
Esa es la pregunta a la que sigo volviendo.
A medida que la IA sea más capaz, ¿deberíamos seguir ampliando lo que puede hacer?
¿O deberíamos dedicar igual de tiempo a decidir qué jamás debería estar autorizada a hacer?