Votre agent IA a besoin de son propre système d’autorisations 🤖
Donner à un logiciel un portefeuille crée un problème que les humains rencontrent rarement.
Les humains hésitent avant de dépenser de l’argent.
Un logiciel autonome peut prendre des centaines de décisions avant que quelqu’un ne vérifie ce qui s’est passé.
$TAO montre déjà à quel point les incitations peuvent devenir profondément automatisées dès lors que le logiciel évalue en continu d’autres logiciels.
Imaginez maintenant que ces agents contrôlent de vrais comptes financiers.
Vous n’avez pas seulement besoin de savoir ce que l’agent a fait.
Vous devez pouvoir prouver qu’il est resté dans les limites que vous lui avez fixées, sans forcément publier chaque action, chaque contrepartie et chaque stratégie à tout le monde.
C’est l’une des applications les plus intéressantes du modèle de preuve programmable de Midnight. Soutenu par $NIGHT .
Un agent pourrait prouver qu’une action a respecté ses règles tout en conservant les entrées sensibles à cette décision en privé.
Le propriétaire obtient de la responsabilisation sans pour autant créer automatiquement un compte rendu public, scène par scène, de la stratégie de l’agent.
Les agents IA n’ont pas seulement besoin de portefeuilles. Ils ont besoin de règles qu’ils peuvent prouver avoir suivies.
C’est une catégorie d’infrastructure bien plus vaste que ce que les gens envisagent aujourd’hui dans le récit autour des agents IA.
#AI #Agents
Donner à un logiciel un portefeuille crée un problème que les humains rencontrent rarement.
Les humains hésitent avant de dépenser de l’argent.
Un logiciel autonome peut prendre des centaines de décisions avant que quelqu’un ne vérifie ce qui s’est passé.
$TAO montre déjà à quel point les incitations peuvent devenir profondément automatisées dès lors que le logiciel évalue en continu d’autres logiciels.
Imaginez maintenant que ces agents contrôlent de vrais comptes financiers.
Vous n’avez pas seulement besoin de savoir ce que l’agent a fait.
Vous devez pouvoir prouver qu’il est resté dans les limites que vous lui avez fixées, sans forcément publier chaque action, chaque contrepartie et chaque stratégie à tout le monde.
C’est l’une des applications les plus intéressantes du modèle de preuve programmable de Midnight. Soutenu par $NIGHT .
Un agent pourrait prouver qu’une action a respecté ses règles tout en conservant les entrées sensibles à cette décision en privé.
Le propriétaire obtient de la responsabilisation sans pour autant créer automatiquement un compte rendu public, scène par scène, de la stratégie de l’agent.
Les agents IA n’ont pas seulement besoin de portefeuilles. Ils ont besoin de règles qu’ils peuvent prouver avoir suivies.
C’est une catégorie d’infrastructure bien plus vaste que ce que les gens envisagent aujourd’hui dans le récit autour des agents IA.
#AI #Agents
