Lo que me preocupa de los agentes no es que se equivoquen, sino que se equivoquen en silencio.
Un agente puede comprar, transferir, firmar, y en el registro todo parece igual: una transacción exitosa. Cuánto ha gastado por encima del presupuesto, a quién se lo ha enviado y por qué justo ahora, todo eso se descubre cuando ya es demasiado tarde.
Por eso, yo mediría la calidad de un agente no por el número de tareas realizadas, sino por el número de veces que se detiene. Cuántas veces no ha pagado sin autorización. Cuántas veces ha pedido confirmar una nueva dirección. Si no se detiene ni una sola vez, eso no es autonomía: es un grifo abierto.
La autonomía sin frenos no es una función. Es un incidente que todavía no ha ocurrido. #KiteBBW $KITE @KITE AI 中文
¿Y ustedes cómo evaluarían a un agente: por el número de tareas realizadas o por el número de veces que se detiene?
Un agente puede comprar, transferir, firmar, y en el registro todo parece igual: una transacción exitosa. Cuánto ha gastado por encima del presupuesto, a quién se lo ha enviado y por qué justo ahora, todo eso se descubre cuando ya es demasiado tarde.
Por eso, yo mediría la calidad de un agente no por el número de tareas realizadas, sino por el número de veces que se detiene. Cuántas veces no ha pagado sin autorización. Cuántas veces ha pedido confirmar una nueva dirección. Si no se detiene ni una sola vez, eso no es autonomía: es un grifo abierto.
La autonomía sin frenos no es una función. Es un incidente que todavía no ha ocurrido. #KiteBBW $KITE @KITE AI 中文
¿Y ustedes cómo evaluarían a un agente: por el número de tareas realizadas o por el número de veces que se detiene?