Plus je suis les projets d’IA dans le secteur de la cryptomonnaie, plus je me dis qu’on pose la mauvaise question.
Tout le monde semble obsédé par le fait de rendre les agents d’IA plus autonomes. Chaque annonce promet des modèles plus performants, une exécution plus rapide et moins d’implication humaine. L’hypothèse est simple : si l’IA devient suffisamment intelligente, tout le reste finira naturellement par s’aligner.
Je n’en suis pas convaincu.
Je pense que le problème le plus difficile n’est pas de rendre l’IA capable d’en faire plus. C’est de décider ce que l’IA ne doit jamais être autorisée à faire.
Cette différence semble petite jusqu'à ce que de l'argent réel entre en jeu.
Imagine donner à quelqu’un les clés de votre maison. Peu importe à quel point il est responsable. Vous lui indiquez toujours quelles pièces sont privées, quand il peut y entrer et ce qu’il a le droit d’utiliser. Nous ne créons pas de limites parce que nous nous attendons à ce que les gens échouent chaque jour. Nous en créons parce que des erreurs finissent par arriver.
Je pense que l’IA mérite le même traitement.
Un agent IA qui gère un portefeuille crypto pourrait analyser les marchés mieux que je ne peux. Il pourrait surveiller les prix vingt-quatre heures sur vingt-quatre, réagir aux opportunités en quelques secondes et exécuter des stratégies sans émotion. Ce sont de réels avantages.
Mais rien de tout cela ne répond à une question beaucoup plus simple.
Devrait-elle être autorisée à dépenser chaque dollar du portefeuille ?
Devrait-elle pouvoir interagir librement avec n’importe quel protocole ?
Devrait-elle pouvoir transférer des fonds entre des chaînes sans demander ?
Ces questions ne se résolvent pas par l’intelligence.
Ce sont les limites qui répondent.
Une chose que je remarque souvent, c’est que l’industrie traite la liberté comme un progrès. Plus une IA peut accomplir d’actions, plus elle paraît avancée. Pourtant, les institutions ont passé des décennies à construire des systèmes qui vont plutôt dans l’autre sens.
Les banques ne donnent pas aux traders une autorité illimitée. Les gestionnaires d’actifs opèrent dans le cadre de mandats d’investissement. Les équipes de finance d’entreprise ont des limites d’approbation pour différentes tailles de transactions. Même les employés expérimentés ne peuvent pas simplement déplacer les fonds de l’entreprise partout où ils le souhaitent.
L’objectif n’est pas de ralentir les gens.
Il s’agit de réduire le coût des erreurs humaines.
À mesure que l’IA commence à prendre en charge une partie de ces responsabilités, je ne vois pas pourquoi cette philosophie devrait disparaître d’un coup.
En fait, je pense que cela devient encore plus important.
L’IA ne se fatigue pas, mais elle ne fait pas non plus de pause pour remettre en question sa propre autorité. Si une règle lui dit d’agir, elle agit. Si la règle est incomplète, obsolète ou mal rédigée, l’IA ne lèvera pas la main pour demander si la décision a encore du sens.
Elle exécutera simplement.
C’est pourquoi je pense que les gens confondent parfois intelligence et discernement.
Ils sont liés, mais ce ne sont pas la même chose.
Une IA très performante peut tout de même prendre une terrible décision financière si les limites qui l’entourent sont mal définies. L’échec ne vient pas toujours du modèle. Parfois, il vient des autorisations que nous lui avons accordées.
C’est l’une des raisons pour lesquelles des projets comme Newton Protocol ont retenu mon attention.
Ce qui m’a intéressé, ce n’était pas la promesse d’une IA plus intelligente. C’était l’idée que l’autorisation devrait intervenir avant l’exécution. Au lieu de supposer qu’une IA ayant accès à un portefeuille devrait automatiquement être digne de confiance, le protocole introduit des politiques programmables qui définissent ce que l’IA est autorisée à faire dès le départ.
Pour moi, c’est une façon plus saine de penser l’automatisation.
L’IA peut encore analyser les opportunités.
Elle peut encore faire des recommandations.
Elle peut quand même préparer des transactions.
Mais le fait que ces actions soient effectivement autorisées devient une décision distincte.
Cet écart semble important.
Bien sûr, de meilleures limites ne constituent pas une solution parfaite.
Quelqu’un doit encore écrire les politiques. Quelqu’un doit les mettre à jour quand les conditions du marché changent. Des règles mal conçues peuvent devenir aussi dangereuses que l’absence totale de règles. Un système qui bloque chaque transaction n’est pas utile, et un système qui approuve tout n’est pas sûr.
Trouver le bon équilibre est probablement bien plus difficile que de construire l’IA elle-même.
C’est aussi pour cela que je ne pense pas que ce soit uniquement un défi technique.
C’est un défi de gouvernance.
C’est un défi opérationnel.
Et, à bien des égards, c’est un défi humain.
L’avenir de l’IA dans la finance ne sera probablement pas décidé par le modèle qui obtient le score de référence le plus élevé. Il sera façonné par les systèmes que les gens ressentent comme dignes de confiance pour des actifs réels.
La confiance ne vient que rarement d’une liberté illimitée.
Elle vient généralement du fait de savoir exactement où se trouvent les limites.
C’est la question à laquelle je reviens sans cesse.
À mesure que l’IA devient plus capable, devrait-on continuer à élargir ce qu’elle peut faire ?
Ou devrait-on passer autant de temps à décider ce qu’elle ne doit jamais être autorisée à faire ?