#newt $NEWT @NewtonProtocol
J’ai hésité avant d’aller plus loin dans le Newton Protocol. Non pas parce que l’idée me semblait irréaliste, mais parce que j’ai vu assez de récits d’infrastructures se succéder pour savoir que les parties difficiles ne se présentent presque jamais dès le début. Elles finissent plutôt par émerger des mois plus tard, quand des utilisateurs réels, des incitations réelles et une pression réelle entrent en scène.
Ces derniers temps, je me demande si nous posons les mauvaises questions à propos de l’IA dans la cryptographie. Les gens passent beaucoup de temps à débattre de la capacité des modèles. Moi, je m’oriente vers une autre idée : que se passe-t-il une fois que ces modèles commencent à dépendre les uns des autres ? Quand des stratégies automatisées commencent à réagir à d’autres stratégies automatisées, le système devient moins prévisible que n’importe quel composant pris séparément.
C’est là que mon attention finit toujours par se porter—sur les mécanismes silencieux. Une vérification qui continue de fonctionner quand les hypothèses changent. Une coordination qui ne se défait pas lentement parce que les participants découvrent de meilleures façons de servir leurs intérêts que celles que le protocole avait prévues. Ce ne sont pas des problèmes très spectaculaires, mais il semble qu’ils déterminent si quelque chose survit assez longtemps pour avoir un impact.
Je suppose que c’est aussi pour ça que le Newton Protocol reste quelque part au fond de mon esprit. Je n’essaie pas de décider s’il est bon ou mauvais. J’essaie de comprendre si une infrastructure fiable est une destination en soi, ou si c’est quelque chose qui doit être continuellement renégocié à mesure que le comportement autonome évolue.
Plus j’y pense, moins je suis convaincu que la complexité annonce son arrivée. Parfois, elle s’accumule simplement en silence, jusqu’à ce que tout le monde réalise qu’il s’appuie sur des règles qui ne décrivent plus le système qu’il utilise réellement.
J’ai hésité avant d’aller plus loin dans le Newton Protocol. Non pas parce que l’idée me semblait irréaliste, mais parce que j’ai vu assez de récits d’infrastructures se succéder pour savoir que les parties difficiles ne se présentent presque jamais dès le début. Elles finissent plutôt par émerger des mois plus tard, quand des utilisateurs réels, des incitations réelles et une pression réelle entrent en scène.
Ces derniers temps, je me demande si nous posons les mauvaises questions à propos de l’IA dans la cryptographie. Les gens passent beaucoup de temps à débattre de la capacité des modèles. Moi, je m’oriente vers une autre idée : que se passe-t-il une fois que ces modèles commencent à dépendre les uns des autres ? Quand des stratégies automatisées commencent à réagir à d’autres stratégies automatisées, le système devient moins prévisible que n’importe quel composant pris séparément.
C’est là que mon attention finit toujours par se porter—sur les mécanismes silencieux. Une vérification qui continue de fonctionner quand les hypothèses changent. Une coordination qui ne se défait pas lentement parce que les participants découvrent de meilleures façons de servir leurs intérêts que celles que le protocole avait prévues. Ce ne sont pas des problèmes très spectaculaires, mais il semble qu’ils déterminent si quelque chose survit assez longtemps pour avoir un impact.
Je suppose que c’est aussi pour ça que le Newton Protocol reste quelque part au fond de mon esprit. Je n’essaie pas de décider s’il est bon ou mauvais. J’essaie de comprendre si une infrastructure fiable est une destination en soi, ou si c’est quelque chose qui doit être continuellement renégocié à mesure que le comportement autonome évolue.
Plus j’y pense, moins je suis convaincu que la complexité annonce son arrivée. Parfois, elle s’accumule simplement en silence, jusqu’à ce que tout le monde réalise qu’il s’appuie sur des règles qui ne décrivent plus le système qu’il utilise réellement.