Primero, les cuento una experiencia personal.
El año pasado probé a usar un agente para investigar un sector: le pedí que recopilara datos, los limpiara y generara gráficos. Pero no tenía forma de saber si lo que me entregó era fiable: ¿había usado la fuente de datos que le di o se la había inventado? No podía rastrear en qué paso había surgido el problema. Al final, no me quedó otra que revisar todo manualmente, línea por línea. ¿Y a eso cómo se le llama automatización?
Después descubrí que no era un problema solo mío. Todo el sector de los agentes está atascado en lo mismo: la ejecución se puede delegar en la IA, pero la confianza no.
Si contratas a un asistente humano, cuando termina el trabajo al menos puedes revisar cómo lo hizo y preguntarle en qué basó sus decisiones. Pero un agente solo te da un «resultado»; todo lo que ocurre entre medio es una caja negra. No sabes qué pasos se saltó, qué verificaciones omitió ni qué fuentes de datos utilizó. Esta asimetría de información es, en esencia, un costo oculto: crees que ahorras tiempo, pero en realidad lo dedicas a revisar y a cubrirte las espaldas.
Y el enfoque de Kite me parece el más pragmático que he visto hasta ahora: no apresurarse a crear un «Agent más inteligente», sino empezar por hacer que cada ejecución de un Agent sea verificable. Registrar las llamadas en la cadena, dejar constancia de las entradas y salidas, y completar los pagos automáticamente. En pocas palabras, es como darles una credencial, fichar su entrada y salida y registrar las horas trabajadas a estos trabajadores digitales.
Una vez que este mecanismo esté consolidado, se producirán cambios interesantes:
Primero, la responsabilidad podrá tener un precio. Las tareas de alto riesgo (por ejemplo, las que implican fondos o asuntos legales) necesitarán una cadena de auditoría más completa, y quienes estén dispuestos a pagar más tendrán tarifas de servicio más altas; las tareas de bajo riesgo seguirán un proceso más ligero. El propio mercado incorporará el «coste de la confianza» al precio.
Segundo, los Agents podrán contratarse entre sí. Un Agent A acepta un gran encargo y subcontrata automáticamente a los Agents B y C las partes que no puede completar; los pagos se gestionan íntegramente mediante contratos en la cadena. Esto es, en realidad, el prototipo de una «fábrica sin personal»: sin RR. HH., sin reembolsos ni disputas; solo un flujo de tareas.
Tercero, la reputación se convertirá en un activo tangible. Los Agents que hagan un buen trabajo recibirán llamadas una y otra vez; el propio historial de llamadas será su mejor publicidad. Los que fallen dejarán constancia en la cadena y nadie volverá a utilizarlos. No hace falta que una plataforma te evalúe: los datos hablan por sí solos.
Por supuesto, no digo que este camino esté libre de obstáculos. El coste de registrar datos en la cadena, la interoperabilidad entre cadenas, la titularidad de los derechos de los modelos, los límites de la privacidad… cualquiera de estos temas supone una batalla difícil. Además, «estar en la cadena» no significa «ser real»: si se registran datos basura en la cadena, siguen siendo basura; solo que se vuelven inmutables.
Pero estoy de acuerdo con la dirección. El cuello de botella de la economía de los Agents nunca ha sido si son «lo bastante inteligentes», sino si son «lo bastante confiables». Quien primero construya esta infraestructura de confianza controlará el sistema de liquidación de este mercado.
Las reglas son parte de la infraestructura y, en materia de infraestructura, quien llega primero se queda con la ventaja.