#newt $NEWT @NewtonProtocol
He notado que cada vez que sale el tema del trading con IA, la conversación cambia rápidamente a qué tan inteligentes son los modelos.
Creo que estamos haciendo la pregunta equivocada.
El problema más grande es la responsabilidad.
Si un agente de IA realiza una mala operación, provoca una disrupción en el mercado o ignora un límite de riesgo, ¿quién es realmente responsable? ¿El desarrollador? ¿El operador? ¿El usuario? ¿El protocolo?
Por eso, la capa de políticas de Newton me llama la atención. Se enfoca en establecer límites antes de que un agente pueda actuar, en lugar de intentar explicar errores después de que ya han ocurrido.
Aun así, no creo que un interruptor de apagado (kill switch) lo resuelva todo. Alguien todavía tiene que decidir cuándo usarlo, y alguien tiene que responder por lo que pase si no se usa.
La automatización puede tomar decisiones más rápido.
Pero eso no hace que la responsabilidad desaparezca.
He notado que cada vez que sale el tema del trading con IA, la conversación cambia rápidamente a qué tan inteligentes son los modelos.
Creo que estamos haciendo la pregunta equivocada.
El problema más grande es la responsabilidad.
Si un agente de IA realiza una mala operación, provoca una disrupción en el mercado o ignora un límite de riesgo, ¿quién es realmente responsable? ¿El desarrollador? ¿El operador? ¿El usuario? ¿El protocolo?
Por eso, la capa de políticas de Newton me llama la atención. Se enfoca en establecer límites antes de que un agente pueda actuar, en lugar de intentar explicar errores después de que ya han ocurrido.
Aun así, no creo que un interruptor de apagado (kill switch) lo resuelva todo. Alguien todavía tiene que decidir cuándo usarlo, y alguien tiene que responder por lo que pase si no se usa.
La automatización puede tomar decisiones más rápido.
Pero eso no hace que la responsabilidad desaparezca.