Todavía no me siento del todo cómodo con hacia dónde va esta conversación.
Quizá sea porque he visto demasiadas narrativas llegar con un tono de inevitabilidad. La cripto se suponía que eliminaría la confianza. La IA se suponía que eliminaría el esfuerzo. Años después, ambos resultaron ser más complicados que los eslóganes.
Ahora esos dos mundos empiezan a solaparse y sigo notando el mismo patrón otra vez.
Todo el mundo quiere hablar de la inteligencia.
Modelos más inteligentes. Mejor razonamiento. Agentes más sofisticados capaces de encontrar oportunidades que los humanos pasan por alto. Bien, justo. Eso es interesante. Pero no puedo evitar sentir que nos estamos distrayendo por la parte visible del problema.
La parte invisible es lo que sucede después de la decisión.
En el momento en que se permite que un agente de IA ejecute una operación, mueva activos o interactúe con protocolos por su cuenta, la conversación cambia. Deja de tratarse de la predicción y empieza a tratarse de la responsabilidad. No necesariamente responsabilidad legal. Responsabilidad del sistema.
¿Quién verifica lo que realmente pasó?
¿Quién asume las consecuencias cuando una estrategia autónoma se comporta exactamente como estaba diseñada, pero aun así produce resultados que nadie esperaba?
El software siempre ha hecho cosas inesperadas. Los mercados también. Combinar ambas cosas no hace que la incertidumbre desaparezca mágicamente. Si acaso, probablemente crea nuevos tipos de incertidumbre que todavía no hemos aprendido a reconocer.
Por eso, en parte, Newton Protocol se siente digno de prestar atención, aunque disto mucho de estar convencido de que alguien haya resuelto esto. Lo que me llamó la atención no fue la promesa de estrategias de IA ni la ejecución automatizada. Fue la idea más silenciosa de que quizá los sistemas autónomos necesitan una infraestructura diseñada específicamente para límites de verificación y ejecución responsable, más que solo inteligencia.
Eso suena como un lugar más honesto para empezar.
El enfoque del mercado me plantea preguntas similares. Una vez que los desarrolladores pueden desplegar y monetizar agentes autónomos, la confianza deja de depender tanto de quién escribió la estrategia y pasa a depender de si el sistema que la rodea puede seguir comportándose de manera predecible cuando los incentivos inevitablemente cambien.
He visto lo suficiente en cripto como para saber que los incentivos casi siempre cambian.
Quizá el siguiente capítulo de la IA en las finanzas no se defina por el modelo que piense más rápido.
Quizá se defina por la infraestructura que aún se pueda confiar después de que todos hayan dejado de mirar, y no estoy seguro de que hayamos averiguado todavía cómo es eso. @NewtonProtocol $NEWT #Newt
