Je me suis mis à me demander si la partie la plus difficile de l’IA n’est pas de la rendre plus intelligente, mais de la rendre responsable.
La plupart des discussions autour des agents d’IA se concentrent sur ce qu’ils seront capables de faire. Exécuter des transactions, gérer des portefeuilles, déplacer des actifs, négocier avec d’autres agents. L’hypothèse semble être que la capacité est le goulot d’étranglement. Après avoir passé du temps à étudier le protocole Newton, je ne suis plus sûr que ce soit vraiment le défi d’aujourd’hui.
Le problème négligé, c’est la confiance après délégation.
Dès que nous autorisons un agent d’IA à agir en notre nom, nous créons une nouvelle relation. Nous cessons de prendre chaque décision nous-mêmes et commençons à nous appuyer sur un logiciel pour interpréter nos intentions. Cela semble efficace jusqu’à ce que quelque chose d’inattendu survienne. Si un agent prend une mauvaise décision, dépasse ses autorisations, ou suit simplement des instructions d’une manière que personne n’avait anticipée, qui est responsable ? Plus important encore, comment vérifie-t-on ce qui s’est réellement passé ?
Les logiciels traditionnels exécutent généralement du code déterministe. Les systèmes d’IA ne se comportent pas toujours de cette manière. Ils fonctionnent avec des probabilités, du contexte et des informations en évolution. Il en résulte que la responsabilité est bien plus difficile à établir que de vérifier simplement si une transaction a abouti.
C’est la partie du protocole Newton qui a retenu mon attention. Au lieu de considérer l’automatisation comme une destination, elle traite la gouvernance et la vérification comme faisant partie intégrante de l’infrastructure. Un rollup sécurisé conçu autour des autorisations, des politiques et d’une exécution vérifiable laisse penser que les futurs systèmes d’IA pourraient avoir besoin de règles de fonctionnement autant que d’intelligence.
Ce qui m’intéresse n’est pas seulement la technologie. C’est l’hypothèse qui la sous-tend. Le projet semble reconnaître que l’adoption ne dépendra pas uniquement de la capacité de l’IA. Elle pourrait dépendre du fait que les gens puissent déléguer leur autorité en toute confiance sans perdre la visibilité sur ce que font leurs agents.
À mesure que l’IA devient plus autonome, l’infrastructure pourrait remplacer discrètement l’intelligence comme principal avantage concurrentiel. Les projets qui définissent la confiance, la coordination et la responsabilité pourraient façonner la prochaine génération d’applications onchain davantage que les modèles eux-mêmes.
La question à laquelle je reviens sans cesse est la suivante : lorsque des agents d’IA deviendront monnaie courante dans la crypto, les utilisateurs choisiront-ils l’agent le plus intelligent, ou celui dont ils peuvent réellement vérifier les actions ?