Il y a quelques jours, je lisais un article sur la sécurité des logiciels open source. Un point m’a marqué. Lorsque des milliers de développeurs s’appuient sur le même morceau de code, le plus grand avantage est évident : personne n’a besoin de réinventer la roue. Mais si ce code partagé cache une vulnérabilité que personne n’a encore remarquée, le problème ne reste pas isolé. Il se propage à tous ceux qui l’utilisent.
Cela m’a amené à réfléchir à <0>@NewtonProtocol </0> d’une autre manière.
La plupart des discussions autour de son économie de la politique (<Policy Economy>) se concentrent sur la vitesse et l’efficacité, et c’est compréhensible. Si une politique fiable existe déjà, les développeurs n’ont pas besoin d’écrire la même logique depuis zéro. Cela fait gagner du temps, réduit les coûts et aide les systèmes d’IA à devenir plus cohérents.
Mais une autre question m’est venue.
Que se passe-t-il lorsque des milliers d’agents d’IA commencent à s’appuyer sur la même politique ?
Peut-être que rien ne se passe mal. Mais si cette politique contient une faille qui n’a pas encore été découverte, le problème n’est plus limité à un seul utilisateur ou à une seule application. Il pourrait toucher tout un écosystème en même temps. Nous avons déjà vu des situations similaires dans le monde du logiciel : une seule vulnérabilité dans une bibliothèque largement utilisée a fini par impacter d’innombrables projets.
Pour moi, le vrai débat n’est pas de savoir comment empêcher les politiques d’être copiées. Si chaque développeur devait tout créer à partir de zéro, toute l’idée d’une économie de la politique perdrait une grande partie de sa valeur.
La question la plus importante est plutôt de savoir si le réseau peut reconnaître quand une politique devient tellement adoptée qu’elle commence à représenter une concentration de risques.
C’est pourquoi je ne pense pas que <0>$NEWT </0> doive être jugé uniquement par le nombre de politiques présentes sur le réseau. Un meilleur indicateur est de savoir si le protocole peut identifier et surveiller le risque systémique lorsque trop d’agents d’IA dépendent de la même politique.
Cela pourrait finalement être l’une des qualités qui distinguent une économie de la politique évolutive d’une économie résiliente.#Newt
$ESPORTS
$TAG
Cela m’a amené à réfléchir à <0>@NewtonProtocol </0> d’une autre manière.
La plupart des discussions autour de son économie de la politique (<Policy Economy>) se concentrent sur la vitesse et l’efficacité, et c’est compréhensible. Si une politique fiable existe déjà, les développeurs n’ont pas besoin d’écrire la même logique depuis zéro. Cela fait gagner du temps, réduit les coûts et aide les systèmes d’IA à devenir plus cohérents.
Mais une autre question m’est venue.
Que se passe-t-il lorsque des milliers d’agents d’IA commencent à s’appuyer sur la même politique ?
Peut-être que rien ne se passe mal. Mais si cette politique contient une faille qui n’a pas encore été découverte, le problème n’est plus limité à un seul utilisateur ou à une seule application. Il pourrait toucher tout un écosystème en même temps. Nous avons déjà vu des situations similaires dans le monde du logiciel : une seule vulnérabilité dans une bibliothèque largement utilisée a fini par impacter d’innombrables projets.
Pour moi, le vrai débat n’est pas de savoir comment empêcher les politiques d’être copiées. Si chaque développeur devait tout créer à partir de zéro, toute l’idée d’une économie de la politique perdrait une grande partie de sa valeur.
La question la plus importante est plutôt de savoir si le réseau peut reconnaître quand une politique devient tellement adoptée qu’elle commence à représenter une concentration de risques.
C’est pourquoi je ne pense pas que <0>$NEWT </0> doive être jugé uniquement par le nombre de politiques présentes sur le réseau. Un meilleur indicateur est de savoir si le protocole peut identifier et surveiller le risque systémique lorsque trop d’agents d’IA dépendent de la même politique.
Cela pourrait finalement être l’une des qualités qui distinguent une économie de la politique évolutive d’une économie résiliente.#Newt
$ESPORTS
$TAG
