J’ai réfléchi à la facilité avec laquelle nous utilisons le mot « confiance » quand nous parlons d’agents d’IA.
Avec le protocole Newton, ce qui ressort le plus pour moi, c’est l’autorisation basée sur des règles : l’idée qu’un agent ne se contente pas d’« agir à ma place », mais qu’il opère à l’intérieur de limites explicites et vérifiables.
Cela me semble important du point de vue des systèmes. En logiciel, la confiance se dégrade généralement quand trop de choses sont laissées implicites. Un agent disposant de permissions étendues devient difficile à comprendre et à raisonner, même si l’interface paraît simple.
Mais lorsque les autorisations, les contraintes et la révocation sont traitées comme une infrastructure essentielle, le modèle de confiance change. Il s’agit moins de croire que l’agent se comportera bien et davantage de définir ce qu’il lui est techniquement autorisé à faire.
Cette distinction peut sembler minime au premier abord, mais elle pourrait être déterminante.
#Newt @NewtonProtocol $NEWT
Avec le protocole Newton, ce qui ressort le plus pour moi, c’est l’autorisation basée sur des règles : l’idée qu’un agent ne se contente pas d’« agir à ma place », mais qu’il opère à l’intérieur de limites explicites et vérifiables.
Cela me semble important du point de vue des systèmes. En logiciel, la confiance se dégrade généralement quand trop de choses sont laissées implicites. Un agent disposant de permissions étendues devient difficile à comprendre et à raisonner, même si l’interface paraît simple.
Mais lorsque les autorisations, les contraintes et la révocation sont traitées comme une infrastructure essentielle, le modèle de confiance change. Il s’agit moins de croire que l’agent se comportera bien et davantage de définir ce qu’il lui est techniquement autorisé à faire.
Cette distinction peut sembler minime au premier abord, mais elle pourrait être déterminante.
#Newt @NewtonProtocol $NEWT