Il y a quelques semaines, je partais et j’avais besoin de quelqu’un pour arroser mes plantes.
Alors j’ai remis les clés de ma maison.
Assez simple.
Mais en quittant les lieux, une idée m’a frappé.
Cette clé n’a pas seulement donné accès aux plantes.
Cela donnait accès à tout.
Le salon.
La chambre.
Le garage.
Chaque tiroir que j’avais oublié de verrouiller.
Et soudain, ce qui semblait pratique est devenu inconfortable.
Pas parce que je ne faisais pas confiance à la personne.
Parce que j’ai réalisé à quel point j’avais cédé de l’autorité.
Cette expérience m’a rappelé quelque chose à propos de quoi je réfléchis, avec le protocole Newton.
L’industrie de l’IA est obsédée par la capacité.
Chaque semaine, un nouveau modèle, un nouvel agent, un nouveau système promettant plus d’automatisation et plus d’intelligence.
Mais plus j’observe cet espace évoluer, plus je me demande si nous nous concentrons sur le mauvais problème.
Le défi n’est pas de donner plus de pouvoir à l’IA.
Le défi, c’est de décider dès le départ de la quantité de pouvoir qu’elle doit avoir.
Parce que, dès que des agents IA commencent à gérer des portefeuilles, à exécuter des transactions, à interagir avec des protocoles DeFi et à déplacer du capital réel, l’autorité devient bien plus importante que l’intelligence.
Une IA brillante avec des permissions illimitées peut encore devenir un risque.
Pas parce que c’est malveillant.
Parce que les erreurs deviennent coûteuses quand il y a de l’argent en jeu.
C’est une des raisons pour lesquelles Newton ressort autant pour moi.
Le projet semble construit autour d’une question que beaucoup de gens ne se posent pas tant qu’il n’est pas trop tard :
Comment en profiter grâce à l’automatisation sans abandonner le contrôle total ?
Plus je lis l’approche @NewtonProtocol , moins ça ressemble à un autre projet d’IA et plus ça ressemble à une infrastructure pour un futur où des systèmes autonomes seront partout.
Pas une infrastructure conçue pour rendre l’IA plus intelligente.
Des infrastructures conçues pour définir des limites.
Et l’histoire montre que les limites deviennent les plus précieuses quand les systèmes sont assez puissants pour fonctionner sans surveillance constante.
Ce qui est intéressant, c’est que Newton ne mise pas sur le fait que l’IA réussira.
La plupart de l’industrie le suppose déjà.
Il semble qu’elle fasse un pari différent :
Le fait que, à mesure que l’IA devient plus capable, les gens finiront par exiger la même chose qu’ils ont toujours exigée des systèmes financiers.
Le contrôle.
La responsabilité.
La vérification.
C’est peut-être pour ça que je reviens sans cesse vers Newton.
Pas parce qu’elle promet une automatisation illimitée.
Mais parce qu’elle pose une question bien plus difficile :
Si un jour l’IA finit par acquérir la capacité de faire à peu près n’importe quoi…
Qui décide de ce qu’il est réellement autorisé à faire ?
Et honnêtement, je pense que la réponse à cette question pourrait finir par être plus importante que l’intelligence elle-même.
Qu’en pensez-vous ?
Alors que des agents IA font partie de la finance du quotidien, qu’est-ce qui devient plus précieux :
Plus de capacité ?
Ou plutôt, définir de meilleures limites ?
#SKHynixJumpsNearly13%OnUSDebut

