He empezado a preguntarme si la parte más difícil de la IA no es hacerla más inteligente, sino hacerla responsable.
La mayoría de las conversaciones sobre agentes de IA se centran en lo que serán capaces de hacer. Ejecutar operaciones, gestionar carteras, mover activos, negociar con otros agentes. La suposición parece ser que la capacidad es el cuello de botella. Después de pasar tiempo estudiando Newton Protocol, ya no estoy seguro de que ese sea el verdadero desafío.
El problema que se pasa por alto es la confianza después de la delegación.
En el momento en que permitimos que un agente de IA actúe en nuestro nombre, creamos una nueva relación. Dejamos de tomar cada decisión nosotros mismos y empezamos a depender de software para interpretar nuestras intenciones. Eso suena eficiente hasta que ocurre algo inesperado. Si un agente toma una mala decisión, excede sus permisos o simplemente sigue instrucciones de una manera que nadie anticipó, ¿quién es responsable? Más importante aún, ¿cómo verificamos lo que realmente sucedió?
El software tradicional normalmente ejecuta código determinista. Los sistemas de IA no siempre se comportan así. Funcionan con probabilidades, contexto e información que evoluciona. Eso hace que la rendición de cuentas sea mucho más difícil que simplemente comprobar si una transacción se realizó correctamente.
Esta es la parte del Protocolo Newton que mantuvo mi atención. En lugar de tratar la automatización como el destino, la integra con la gobernanza y la verificación como parte de la infraestructura. Un rollup seguro diseñado en torno a permisos, políticas y ejecución verificable sugiere que los futuros sistemas de IA podrían necesitar reglas de funcionamiento tanto como necesitan inteligencia.
Lo que me interesa no es solo la tecnología. Es el supuesto que la respalda. El proyecto parece reconocer que la adopción no dependerá únicamente de lo capaz que se vuelva la IA. Podría depender de si las personas pueden delegar autoridad con confianza sin perder visibilidad sobre lo que hacen sus agentes.
A medida que la IA se vuelve más autónoma, la infraestructura podría reemplazar en silencio a la inteligencia como la mayor ventaja competitiva. Los proyectos que definan la confianza, la coordinación y la rendición de cuentas podrían dar forma a la siguiente generación de aplicaciones onchain más que los propios modelos.
La pregunta a la que vuelvo una y otra vez es esta: cuando los agentes de IA se vuelvan comunes en todo el ecosistema cripto, ¿los usuarios elegirán al agente más inteligente o al que sus acciones puedan verificar realmente?