Mysten Labs y Google Cloud están desarrollando conjuntamente una infraestructura de verificación descentralizada llamada Verifiable Agent Arbiter (VAA).
Busca resolver un problema cada vez más real:
Cuando los agentes de IA empiezan a gestionar fondos, datos y permisos de cuentas en nombre de las personas, ¿cómo podemos demostrar que no han excedido el alcance de la autorización que recibieron?
Hasta ahora se confiaba más en «creer en el agente», pero cuando se trata de entornos empresariales y financieros, confiar únicamente en el modelo claramente no basta.
La idea de VAA es separar la capa de verificación.
Se puede comprobar mediante una infraestructura de verificación independiente qué hizo el agente y si actuó estrictamente dentro del alcance autorizado.
Y, lo que es más importante, los registros detallados de las operaciones sensibles siguen almacenados en el entorno de Google Cloud que controla el propio cliente.
Es decir:
La capa de verificación se encarga de demostrar; el cliente, de conservar los registros originales.
Una resuelve «si se puede verificar» y la otra, «si hay que entregar los datos».
En el fondo, este es un problema que la comercialización de los agentes de IA debe afrontar.
Cuando un agente gestiona fondos, permisos y datos en tu nombre, lo realmente importante no es solo lo que puede hacer, sino si, cuando algo sale mal, se puede responder a estas preguntas:
¿Qué hizo?
¿Excedió sus permisos?
¿Dónde debe recaer la responsabilidad?
Lo que realmente le falta a la economía de los agentes quizá no sean modelos más inteligentes, sino un registro de operaciones verificable y que permita exigir responsabilidades.
Busca resolver un problema cada vez más real:
Cuando los agentes de IA empiezan a gestionar fondos, datos y permisos de cuentas en nombre de las personas, ¿cómo podemos demostrar que no han excedido el alcance de la autorización que recibieron?
Hasta ahora se confiaba más en «creer en el agente», pero cuando se trata de entornos empresariales y financieros, confiar únicamente en el modelo claramente no basta.
La idea de VAA es separar la capa de verificación.
Se puede comprobar mediante una infraestructura de verificación independiente qué hizo el agente y si actuó estrictamente dentro del alcance autorizado.
Y, lo que es más importante, los registros detallados de las operaciones sensibles siguen almacenados en el entorno de Google Cloud que controla el propio cliente.
Es decir:
La capa de verificación se encarga de demostrar; el cliente, de conservar los registros originales.
Una resuelve «si se puede verificar» y la otra, «si hay que entregar los datos».
En el fondo, este es un problema que la comercialización de los agentes de IA debe afrontar.
Cuando un agente gestiona fondos, permisos y datos en tu nombre, lo realmente importante no es solo lo que puede hacer, sino si, cuando algo sale mal, se puede responder a estas preguntas:
¿Qué hizo?
¿Excedió sus permisos?
¿Dónde debe recaer la responsabilidad?
Lo que realmente le falta a la economía de los agentes quizá no sean modelos más inteligentes, sino un registro de operaciones verificable y que permita exigir responsabilidades.