Ce qui est vraiment effrayant, ce n’est pas que l’IA se trompe.
C’est qu’une fois qu’elle se trompe, elle peut encore exécuter automatiquement à votre place.
La phrase peut sembler un peu inquiétante, mais à l’avenir, la chaîne finira forcément par en arriver là.
Avant, quand on utilisait l’IA, au maximum, on lui demandait ce qu’elle pensait d’un projet, comment analyser le marché.
Si elle se trompait, on s’échauffait deux fois, puis on arrêtait.
Mais si un agent IA est connecté à un portefeuille, à des stratégies, aux autorisations et au trading automatique, alors la nature des choses change.
Ce n’est plus une simple recommandation.
Elle est en train de faire bouger de l’argent.
Une erreur de paramètre, une stratégie qui dévie, une défaillance de la détection des risques… Si, avant d’exécuter, il n’y a pas de vérification des permissions, à la fin, cela peut se transformer directement en pertes sur la chaîne.
Donc, pour la direction de Newton Protocol, je pense que le plus intéressant n’est pas de savoir « à quel point l’IA est intelligente ».
C’est plutôt de voir si Newton Mainnet Beta peut donner des limites à cette exécution par l’IA.
Peut-on restreindre ses autorisations.
Peut-on vérifier ses actions.
Peut-on faire passer les règles avant la vraie exécution.
C’est précisément ce qui rend @NewtonProtocol assez intéressant.
Les discussions autour de $NEWT, si elles restent uniquement au niveau de la vague de popularité de l’IA, peuvent arriver vite et repartir tout aussi vite.
Mais si, à l’avenir, les agents IA commencent vraiment à prendre en charge davantage d’opérations on-chain, alors la couche d’autorisation et la couche de vérification ne seront plus de la simple décoration, mais le socle.
L’endroit le plus dangereux de l’IA, ce n’est pas qu’elle ne réfléchit pas.
C’est qu’une fois qu’elle commence à agir pour l’utilisateur, celui-ci ne sait pas si elle va s’arrêter.
@NewtonProtocol $NEWT #Newt
C’est qu’une fois qu’elle se trompe, elle peut encore exécuter automatiquement à votre place.
La phrase peut sembler un peu inquiétante, mais à l’avenir, la chaîne finira forcément par en arriver là.
Avant, quand on utilisait l’IA, au maximum, on lui demandait ce qu’elle pensait d’un projet, comment analyser le marché.
Si elle se trompait, on s’échauffait deux fois, puis on arrêtait.
Mais si un agent IA est connecté à un portefeuille, à des stratégies, aux autorisations et au trading automatique, alors la nature des choses change.
Ce n’est plus une simple recommandation.
Elle est en train de faire bouger de l’argent.
Une erreur de paramètre, une stratégie qui dévie, une défaillance de la détection des risques… Si, avant d’exécuter, il n’y a pas de vérification des permissions, à la fin, cela peut se transformer directement en pertes sur la chaîne.
Donc, pour la direction de Newton Protocol, je pense que le plus intéressant n’est pas de savoir « à quel point l’IA est intelligente ».
C’est plutôt de voir si Newton Mainnet Beta peut donner des limites à cette exécution par l’IA.
Peut-on restreindre ses autorisations.
Peut-on vérifier ses actions.
Peut-on faire passer les règles avant la vraie exécution.
C’est précisément ce qui rend @NewtonProtocol assez intéressant.
Les discussions autour de $NEWT, si elles restent uniquement au niveau de la vague de popularité de l’IA, peuvent arriver vite et repartir tout aussi vite.
Mais si, à l’avenir, les agents IA commencent vraiment à prendre en charge davantage d’opérations on-chain, alors la couche d’autorisation et la couche de vérification ne seront plus de la simple décoration, mais le socle.
L’endroit le plus dangereux de l’IA, ce n’est pas qu’elle ne réfléchit pas.
C’est qu’une fois qu’elle commence à agir pour l’utilisateur, celui-ci ne sait pas si elle va s’arrêter.
@NewtonProtocol $NEWT #Newt