Hace unos meses, estaba esperando en un aeropuerto cuando detuvieron a un pasajero en el control de seguridad. Al principio, no parecía haber nada malo. El pase de abordar era válido, el pasaporte era válido e incluso el equipaje pasó la inspección. Entonces, un agente de seguridad explicó con calma que no se había cumplido un pequeño requisito de la política de viaje, así que el pasajero no podía continuar hasta que se resolviera. Ese momento se quedó conmigo porque el sistema no estaba decidiendo si el viajero era una buena persona o una mala. Simplemente estaba comprobando si la siguiente acción coincidía con las reglas que ya se habían definido. Me encontré pensando en eso de nuevo mientras leía sobre la Newton Mainnet Beta. La mayoría de las conversaciones sobre IA en cripto se centran en hacer que los agentes sean más inteligentes, pero creo que la pregunta más importante es si se puede evitar que actúen fuera de los límites que ya hemos aprobado.
Eso fue lo que me llamó la atención sobre @NewtonProtocol. Por lo que he entendido, cada acción on-chain se evalúa contra políticas predefinidas antes de ejecutarse. Si una solicitud no cumple esas reglas, no avanza. Para mí, esa es una base mucho más práctica para las finanzas autónomas. Los bancos, los aeropuertos y las redes de pagos no se mantienen seguros porque confían ciegamente en cualquiera. Se mantienen seguros porque las acciones importantes se revisan frente a reglas claras antes de que se permita que ocurran. Creo que las DeFi impulsadas por IA eventualmente necesitarán la misma filosofía.
A medida que el Newton Mainnet Beta sigue desarrollándose, me interesa menos cómo se vuelven inteligentes los agentes de IA y más si sus decisiones se mantienen transparentes, predecibles y responsables. Si los sistemas autónomos van a gestionar capital real, creo que unas medidas de seguridad sólidas podrían llegar a ser igual de importantes que la propia inteligencia. ¿Qué crees que importará más en los próximos años: agentes de IA más inteligentes o límites mejor diseñados alrededor de ellos?