Pueden leer documentos, analizar mercados, tomar decisiones, mover dinero y completar tareas sin que alguien esté encima haciendo clic en “confirmar” cada pocos segundos.
Suena genial.
Hasta que les haces tres preguntas bastante básicas:
¿La información que el agente está usando es realmente verdadera?
¿La acción que quiere tomar está realmente permitida?
Y si hay dinero de por medio, ¿esto seguirá funcionando en el mundo real, no solo en una demo pulida?
Por eso, tres colaboraciones recientes de Verona destacaron para mí.
De¹, Atbash y Pulsar parecen proyectos totalmente distintos al principio. Pero cuando los pones uno al lado del otro, empiezas a ver que cada uno está abordando una parte diferente del mismo problema más grande.
Verona x De¹: ser inteligente no ayuda si las entradas están mal
De¹ está trabajando en agentes financieros que pueden entender mercados, aprender de lo que ocurre y, eventualmente, tomar y ejecutar decisiones.
Y eso crea un problema inmediato.
Un agente puede ser muy capaz y aun así tomar una decisión terrible si la información en la que se basa es incorrecta.
Imagina algo sencillo.
Un agente decide que alguien califica para una acción financiera porque cumple ciertos requisitos.
Pero, ¿de dónde salió esa información?
¿Se verificó?
¿Sigue estando actualizado?
¿Y puede el agente confiar en eso sin necesitar acceso total a los datos privados del usuario?
Aquí es donde entra Verona.
En lugar de compartir constantemente los datos sin procesar una y otra vez, Verona está construida para transformar información verificada en pruebas que se pueden reutilizar.
Entonces, lo interesante de la colaboración con De¹ no es solo que dos proyectos de IA estén trabajando juntos. Es que las responsabilidades están divididas.
De¹ se enfoca en hacer que los agentes sean mejores para entender y tomar acción.
Verona se enfoca en asegurarse de que las acciones del agente se basen en hechos reales, no solo en información que parezca convincente.
Esa diferencia importa muchísimo cuando un agente deja de sugerir cosas y empieza a hacerlas de verdad.
Una mala recomendación solo es molesta.
Una mala decisión financiera tomada automáticamente puede costar dinero real.
Verona x Atbash: incluso si algo es cierto, eso no significa que el agente pueda hacerlo
Luego está el segundo problema.
Supón que el agente tiene información perfecta.
La factura es real.
La cuenta pertenece a la empresa correcta.
El monto es correcto.
Todo cuadra.
Aun así, eso no significa que el pago deba pasar.
Tal vez el agente solo tenga permitido gastar hasta app.
Quizá este proveedor necesita aprobación humana.
Quizá las transferencias a cierto destino estén bloqueadas.
Quizás infrinja una política que no tiene nada que ver con si la información es verdadera.
Ahí es donde Atbash se pone interesante.
Verona responde: “¿Esto es cierto?”
Atbash responde: “Aunque sea cierto, ¿tienes permitido hacer esto?”
Antes de que un agente haga algo irreversible, Atbash puede comprobar esa acción con las reglas que aplican a ese agente.
Suena a un detalle pequeño, pero es uno grande.
La verdad y el permiso no son lo mismo.
Los agentes necesitan ambas cosas.
De lo contrario, terminamos con sistemas que entienden muy bien la realidad, pero no tienen frenos adecuados.
Juntar Verona y Atbash te da un flujo más limpio.
Primero, verifica los hechos.
Luego, verifica si la acción está permitida.
Solo entonces, ejecuta.
Verona x Pulsar: ahora dale al agente algo real que hacer
De¹ muestra cómo los agentes podrían volverse mejores tomando decisiones financieras.
Atbash agrega salvaguardas sobre lo que se les permite hacer.
Pulsar lo acerca a algo que la gente normal realmente podría usar.
Pulsar está llevando su compañero de IA y el programa de puntos a Verona. Lo que me parece interesante es lo que sucede cuando agregas pagos basados en agentes en un entorno así.
Ahora el asistente no solo responde preguntas.
Eventualmente puede tomar decisiones conectadas con dinero real.
Y el mismo problema vuelve a aparecer.
Si un asistente va a mover dinero, no debería hacerlo solo porque un PDF parezca convincente o porque alguien escribió la frase correcta en un formulario.
Necesita hechos en los que realmente pueda confiar.
La misma idea se aplica a las recompensas.
Si los usuarios ganan puntos por cierta actividad, esos puntos se vuelven mucho más significativos si la actividad detrás de ellos se puede probar.
Eso le da a Pulsar un lugar claro en este montaje de tres partes.
Ahí es donde la infraestructura empieza a convertirse en algo que la gente vive como un producto.
¿Qué es más interesante que los anuncios por sí mismos?
Por sí solas, cada anuncio es lo bastante fácil de seguir.
De¹ hace más inteligentes a los agentes financieros.
Atbash controla lo que se les permite hacer a los agentes.
Pulsar les da a esos agentes un lugar para interactuar con usuarios y pagos.
Verona les da a todos algo que necesitan antes de que todo esto sea confiable: información verificada.
Pero juntas apuntan a algo más grande.
La próxima fase de la IA probablemente no tendrá que ver con que los agentes se vuelvan apenas mejores chateando. Ya tenemos bastante de eso.
Lo difícil empieza cuando confiamos lo suficiente en ellos como para actuar.
Una vez que una IA puede gastar dinero, aprobar algo, reclamar una recompensa, dar el visto bueno a una transacción o decidir por nosotros, las alucinaciones dejan de ser una simple rareza y se convierten en un riesgo real.
En ese punto, un agente necesita más que “inteligencia”.
Necesita hechos.
Necesita límites.
Y necesita un lugar real para aplicar ambas cosas.
Por eso estas tres colaboraciones de Verona son más interesantes como conjunto que como asociaciones por separado.
De¹ le da al agente la toma de decisiones y la ejecución.
Verona le da hechos.
Atbash le pone límites.
Pulsar le da una interfaz financiera en el mundo real.
Juntas, empiezan a verse menos como otra demo de IA y más como una pila real con la que la gente podría confiar algún día algo más valioso que redactar un correo