La confiance ne disparaît pas parfois à cause d’une erreur du système.
Elle disparaît parce qu’il y a trop longtemps qu’il n’y a plus personne pour vérifier le système.
J’ai remarqué cela en observant la façon dont l’IA commence à intervenir dans davantage de décisions.
Des transactions à l’allocation des actifs, en passant par l’automatisation des processus : plus on confie de tâches à la machine, moins les humains regardent les étapes intermédiaires.
Il suffit que les résultats soient corrects quelques fois pour que la vérification devienne progressivement une habitude qu’on finit par négliger.
C’est aussi à ce moment-là que je vois Newton sous un autre angle.
La partie intéressante du projet ne réside pas dans la policy ni dans la vérification.
Elle se trouve dans le fait de garder le processus de vérification vivant, même lorsque l’utilisateur ne le réalise plus activement.
Une transaction acceptée ne signifie pas que la décision qui se cache derrière mérite vraiment confiance.
Comme un calcul qui donne le bon résultat ne veut pas dire que la méthode de résolution est forcément correcte.
L’écart entre ces deux choses devient d’autant plus crucial lorsque l’IA commence à prendre des décisions à la place des humains.
Je pense que c’est la différence entre un système digne de confiance et un système simplement familier.
Un système familier amène les gens à cesser de se poser des questions.
Un système digne de confiance permet toujours que les questions reçoivent une réponse.
Peut-être que l’avenir de l’IA ne dépendra pas de la confiance que nous accordons au système.
Mais plutôt de notre capacité à continuer à le vérifier. #newt $NEWT $SYN $BTC

Qu’est-ce qui est le plus précieux dans une économie pilotée par l’IA ?