Il y a quelques jours, j’ai vu une machine de paiement en libre-service facturer par erreur le mauvais client pour les courses de quelqu’un d’autre. Personne ne contestait la machine au début, parce que tout le monde supposait que l’automatisation devait avoir raison. Finalement, un employé a corrigé l’erreur, mais cela m’a rappelé quelque chose que je continue de remarquer dans le secteur de la crypto.
Nous passons beaucoup de temps à nous demander si l’automatisation peut faire davantage.
Nous passons beaucoup moins de temps à nous demander qui est responsable quand l’automatisation fait quelque chose de faux.
Cette question est devenue beaucoup plus intéressante quand j’ai creusé @NewtonProtocol . Je m’attendais à une autre discussion sur les agents d’IA, les stratégies automatisées et l’exécution plus rapide. Au lieu de cela, je me suis surpris à réfléchir à la responsabilité.
Pour moi, c’est un sujet bien plus vaste que l’automatisation elle-même.
L’automatisation est facile à admirer quand tout fonctionne parfaitement. La partie difficile commence lorsque les marchés deviennent volatils, que les flux de données tombent en panne ou qu’un agent IA prend une mauvaise décision qui coûte de l’argent réel.
Dans la finance traditionnelle, les erreurs ont généralement quelqu’un à qui les rattacher. Un gestionnaire de portefeuille rend des comptes aux clients. Une banque rend des comptes aux régulateurs. Une entreprise rend des comptes aux actionnaires.
La crypto supprime souvent cette couche humaine.
Cela crée de l’efficacité, mais cela peut aussi créer une distance entre les actions et les conséquences.
Imaginez engager un livreur.
S’ils savent qu’ils sont responsables de chaque colis, ils conduisent prudemment. S’ils savent que personne ne peut les identifier après une erreur, leurs incitations changent immédiatement.
L’automatisation fonctionne à peu près de la même manière.
La technologie elle-même n’est ni honnête ni malhonnête. Elle suit simplement les incitations.
C’est pourquoi je pense que la responsabilité mérite plus d’attention que la vitesse de l’automatisation.
Beaucoup de discussions sur la crypto se concentrent sur le degré d’intelligence que deviendront les agents IA. Je pense que la question la plus importante est de savoir si ces agents évoluent dans des systèmes où les mauvais comportements ont réellement des conséquences.
Sans conséquences, l’automatisation ne fait que mettre à l’échelle les erreurs.
Un processus défaillant peut devenir en quelques minutes des milliers de transactions défaillantes.
Nous avons déjà vu des versions plus petites de cela dans la crypto.
Les bots de trading ont accidentellement amplifié des krachs éclair.
Des systèmes de liquidation mal configurés ont déclenché des pertes inutiles.
Des défaillances d’oracle ont poussé des protocoles à réagir à des informations incorrectes.
Aucun de ces problèmes n’est survenu parce que l’automatisation est intrinsèquement mauvaise.
Elles sont survenues parce que des systèmes automatisés ont exécuté exactement ce pour quoi ils avaient été conçus — même lorsque ces instructions produisaient des résultats désastreux.
Cette distinction est importante.
Les gens imaginent souvent l’IA comme quelque chose de capable d’un jugement indépendant.
La plupart des systèmes automatisés sont en réalité très littéraux.
Donnez-leur des règles imparfaites, et ils exécuteront parfaitement des décisions imparfaites.
Cela me rappelle la navigation GPS.
La plupart des conducteurs ont déjà vu le GPS les envoyer sur une route impossible ou dans un trafic inattendu.
Le GPS n’essaie pas de prendre de mauvaises décisions.
Elle se contente de suivre les informations disponibles.
Les bons conducteurs savent quand ils devraient cesser de faire confiance à l’automatisation.
Les mauvais conducteurs continuent parce que « l’ordinateur l’a dit ».
La crypto fait face à un défi similaire.
À mesure que les agents IA deviennent capables de gérer des actifs, d’exécuter des transactions, d’interagir entre différentes chaînes et de prendre des décisions financières, les utilisateurs pourraient commencer à leur faire confiance sans comprendre leurs limites.
Cela crée une illusion dangereuse.
L’automatisation peut réduire l’effort.
Elle ne peut pas supprimer la responsabilité.
Un aspect de @NewtonProtocol qui a retenu mon attention est sa tentative de penser au-delà de la simple automatisation en introduisant des mécanismes destinés à aligner les incitations entre les opérateurs et les actions effectuées au nom des utilisateurs.
Que chaque mise en œuvre réussisse ou non est quelque chose que seule l’adoption réelle pourra prouver.
Les livres blancs révèlent rarement comment les systèmes se comportent sous pression.
Les marchés le font.
C’est pourquoi je reste prudemment intéressé plutôt que totalement convaincu.
La véritable responsabilité est mise à l’épreuve lors des échecs, pas lors des vidéos de démonstration réussies.
Supposons qu’à l’avenir, un agent IA gère un portefeuille d’investissement.
Elle rééquilibre automatiquement les actifs, revendique les récompenses de staking, déplace la liquidité entre protocoles et recherche des opportunités de rendement.
Tout paraît impressionnant.
Puis un événement de marché produit des conditions inattendues.
L’IA suit sa logique programmée et perd un capital important.
Qui porte la responsabilité ?
L’utilisateur ?
Le développeur ?
L’opérateur ?
Le protocole ?
Sans réponse claire, il devient difficile de faire confiance à l’automatisation à grande échelle.
Imaginez maintenant un autre scénario.
Une entreprise décentralisée embauche des agents IA pour gérer les paiements des fournisseurs, la paie et la gestion de trésorerie.
Le système fait gagner des heures chaque semaine.
Mais une simple mise à jour logicielle défectueuse envoie les paiements vers de mauvaises adresses.
L’efficacité gagnée pendant des mois disparaît en quelques minutes.
Encore une fois, la responsabilité devient plus précieuse que l’automatisation elle-même.
C’est pourquoi je crois que l’infrastructure compte plus que les démonstrations d’IA tape-à-l’œil.
L’industrie de la crypto célèbre souvent ce que l’automatisation peut accomplir.
Je pense que nous devrions célébrer tout autant les systèmes qui créent des conséquences lorsque l’automatisation agit de manière irresponsable.
Sinon, nous risquons de construire des systèmes incroyablement rapides qui ne font que commettre plus vite des erreurs coûteuses.
Il existe un autre facteur psychologique qui mérite attention.
Les humains font naturellement confiance aux machines qui semblent intelligentes.
Nous supposons que les logiciels sont objectifs.
Nous supposons que les algorithmes éliminent les biais.
Aucune de ces hypothèses n’est toujours vraie.
Les algorithmes héritent des hypothèses des personnes qui les conçoivent.
L’IA hérite des limites de ses données d’entraînement.
L’automatisation hérite des risques de l’infrastructure qui l’entoure.
Aucune de ces technologies n’existe isolément.
C’est pourquoi la responsabilité ne peut pas être ajoutée plus tard comme une fonction optionnelle.
Cela doit exister dès le départ.
Sinon, chaque amélioration de l’automatisation augmente aussi la vitesse à laquelle les problèmes se propagent.
À l’avenir, j’imagine des agents IA devenir des participants normaux de la finance décentralisée.
Ils peuvent négocier des transactions, optimiser la liquidité, gérer des abonnements, exécuter des instructions de gouvernance et coordonner plusieurs blockchains.
Cet avenir semble de plus en plus réaliste.
Mais je ne pense pas que les utilisateurs feront confiance à des agents autonomes simplement parce qu’ils sont intelligents.
Les gens leur feront confiance lorsqu’ils sauront que la responsabilité existe toujours si quelque chose tourne mal.
Pour moi, c’est la question à long terme la plus intéressante autour de $NEWT et de la vision plus large derrière #Newt .
La technologie elle-même est passionnante.
La gouvernance autour de la technologie pourrait finalement s’avérer encore plus importante.
La crypto a passé des années à prouver que l’automatisation est possible.
Le prochain défi consiste à prouver que l’automatisation peut rester responsable lorsque des milliards de dollars en dépendent.
Si ce défi est résolu, la finance autonome pourrait devenir bien plus pratique que beaucoup de gens ne l’imaginent.
Si ce n’est pas le cas, nous risquons simplement d’automatiser les mêmes vieux problèmes à une échelle bien plus grande.
Question de discussion : à mesure que les agents IA deviennent plus autonomes dans la crypto, qu’est-ce qui compte le plus pour vous : une automatisation plus intelligente ou une responsabilité plus forte lorsque les choses tournent mal ?