@NewtonProtocol J’ai remarqué quelque chose en lisant différents échanges sur l’IA ces derniers jours.
Tout le monde semble fasciné par ce que les agents autonomes seront éventuellement capables de faire. Ils échangeront sans émotions. Ils géreront des portefeuilles à toute heure. Ils négocieront avec d’autres agents, optimiseront le capital et exécuteront des transactions plus vite que n’importe quel humain ne pourrait le faire.
La discussion se termine presque toujours là.
Mais je n’arrivais pas à m’empêcher de penser à autre chose.
Qui décide de ce qu’un agent autonome devrait refuser de faire ?
Cette question semble étrangement absente de la conversation.
Pendant des années, les logiciels se sont comportés exactement comme les personnes leur demandaient de le faire. L’IA change cette relation. Au lieu de suivre une séquence fixe de commandes, un agent interprète constamment les situations, évalue les probabilités et décide de ce qu’il estime être la meilleure marche à suivre.
C’est un saut incroyable en termes de capacités.
C’est aussi une responsabilité totalement différente.
Sur les marchés financiers, refuser d’agir est souvent aussi utile que d’agir. Les investisseurs l’apprennent avec le temps. Chaque opportunité implique un coût d’opportunité. Chaque transaction introduit un nouveau risque. Parfois, préserver le capital ne consiste pas à trouver la transaction parfaite : il s’agit plutôt de reconnaître que le marché ne correspond plus aux conditions que vous aviez prévues à l’origine.
Ce type de discipline est difficile même pour des personnes expérimentées.
Alors j’ai commencé à me demander comment les systèmes autonomes vont développer cela.
La réponse évidente, c’est de construire des modèles plus intelligents.
Je ne suis pas sûr que ce soit suffisant.
Peu importe à quel point une IA devient intelligente, elle fonctionne toujours dans un environnement qui change constamment. De nouveaux blocs sont produits toutes les quelques secondes. La liquidité circule entre les protocoles. Les propositions de gouvernance modifient les incitations. Le sentiment du marché change bien avant que les données historiques aient le temps d’expliquer pourquoi.
Un agent peut prendre une décision tout à fait raisonnable à partir des informations disponibles à un instant donné.
Le problème, c’est que la réalité ne s’arrête pas pendant que la décision voyage jusqu’à son exécution.
Cette prise de conscience a changé la façon dont je percevais Newton Protocol.
Au départ, j’ai supposé qu’il s’agissait d’un autre projet axé sur la rendre l’IA plus utile dans Web3. Il existe déjà de nombreuses équipes qui travaillent sur ce défi.
Ce qui a retenu mon attention, au contraire, était quelque chose de beaucoup plus discret.
Newton Protocol passe du temps à réfléchir à l’espace entre la décision et l’exécution.
Pas parce que l’IA manque d’intelligence.
Parce que le monde refuse de rester immobile.
Plus je réfléchissais à cette idée, plus elle me rappelait la manière dont d’autres technologies ont mûri.
Internet n’est pas devenu de confiance simplement parce que les connexions étaient devenues plus rapides. Il est devenu de confiance parce que l’identité, le chiffrement et l’authentification ont évolué en même temps que la vitesse.
La blockchain a suivi un chemin similaire. Au début, la discussion portait sur la décentralisation. Avec le temps, l’attention s’est déplacée vers la gouvernance, la sécurité, l’interopérabilité et la coordination. La technologie est devenue plus précieuse parce que l’infrastructure qui l’entoure est devenue plus fiable.
L’IA donne l’impression de s’approcher de la même transition.
Peut-être que la prochaine percée ne viendra pas d’un autre modèle un peu meilleur en raisonnement.
Peut-être que cela viendra d’une infrastructure qui comprend quand le raisonnement seul ne suffit pas.
Pour moi, c’est un problème bien plus intéressant.
Parce que la finance autonome ne consiste pas, au fond, à apprendre aux machines comment prendre des décisions.
Il s’agit de s’assurer que ces décisions continuent de respecter l’intention des personnes qui ont fait confiance à la machine dès le départ.
Peut-être que c’est pour cela que je reviens toujours à Newton Protocol.
Ce n’est pas parce qu’elle essaie de construire une IA plus intelligente.
Mais parce que cela pose une question que je ne vois pas encore assez de gens discuter.
Dans un monde où, à terme, des systèmes autonomes auront la liberté de faire circuler de la valeur réelle, peut-être que l’innovation la plus importante ne sera pas de donner plus d’autorité à l’IA.
Il s’agira de décider jusqu’où cette autorité devrait aller.