Il y a quelques mois, j’ai eu une conversation avec un ancien directeur du risque (Chief Risk Officer). Je lui ai posé une question que beaucoup de gens commencent à se poser aujourd’hui : « Si l’IA peut analyser des millions de scénarios de risque de marché en quelques secondes, les organisations auront-elles encore besoin de gestionnaires du risque ? » Il a souri et a répondu : « La plupart des gens pensent que la partie la plus difficile de la gestion du risque consiste à calculer le risque. Ce n’est pas le cas. La partie la plus difficile consiste à décider quels risques valent d’être pris. Deux institutions peuvent regarder les mêmes données, utiliser les mêmes modèles et parvenir aux mêmes conclusions, mais prendre des décisions totalement différentes parce qu’elles n’ont pas le même appétit pour le risque. »
Cette réponse est restée en moi, car elle a mis en évidence une distinction souvent négligée. L’IA peut estimer des probabilités, mais elle ne peut pas décider du niveau de risque qu’une organisation est disposée à accepter. Ce n’est pas un calcul mathématique. C’est une décision d’entreprise, façonnée par les priorités, la responsabilisation et les valeurs. C’est là que le calcul s’arrête et que commence le jugement humain.
Vu sous cet angle, @NewtonProtocol est plus qu’une infrastructure pour l’IA. Je le vois comme une couche d’autorisation qui se place entre ce que l’IA est capable de faire et ce qu’une organisation est prête à lui permettre de faire. Une grande partie des discussions autour de l’IA se concentre sur l’exécution plus rapide, les meilleures prédictions ou des modèles plus sophistiqués. Mais la question la plus importante est peut-être beaucoup plus simple : à quoi l’IA devrait-elle être autorisée à faire ?
Un agent d’IA peut identifier une opportunité de marché intéressante, mais si agir en ce sens viole la politique de risque d’une organisation, l’exécution devrait-elle tout de même être autorisée ? C’est là qu’une couche d’autorisation devient précieuse. Son but n’est pas de rendre l’IA plus intelligente. Son but est de définir les limites dans lesquelles l’IA peut opérer. Avant de se demander ce que l’IA peut faire, les organisations doivent d’abord décider ce qu’on lui autorise à faire.
Il y a un autre défi qui mérite une attention équivalente. Beaucoup de gens considèrent l’appétit pour le risque comme un chiffre fixe, mais en réalité il évolue en permanence. Les conditions de marché changent, la réglementation change, la liquidité change, et même les priorités de la direction peuvent se déplacer avec le temps. Par conséquent, la politique qui convenait hier ne reflète peut-être plus les objectifs de l’organisation demain.
Si un système n’applique qu’une politique statique, cette politique peut finir par devenir une limitation plutôt qu’une protection. L’IA peut exécuter parfaitement chaque instruction tout en respectant des consignes qui ne sont plus alignées sur les objectifs actuels de l’organisation. Dans ce cas, le problème n’est pas une mauvaise exécution. Le problème, c’est une politique obsolète.
Pour cette raison, je pense que l’avenir de la gouvernance de l’IA ne consiste pas seulement à faire respecter les politiques, mais aussi à les faire évoluer. Une solide couche d’autorisation devrait permettre aux organisations de mettre à jour leurs politiques en toute sécurité, de façon transparente et efficace, au fur et à mesure que les conditions de l’activité changent, sans avoir à reconstruire l’ensemble du système. L’adaptabilité est tout aussi importante que la précision.
C’est pourquoi je pense que la concurrence future entre les institutions financières ne sera pas définie uniquement par le fait de détenir les modèles d’IA les plus puissants. Elle dépendra de plus en plus de la capacité à traduire leurs principes d’entreprise, leur cadre de gouvernance et leur appétit pour le risque en politiques claires et vérifiables que les agents d’IA pourront suivre de manière constante.
Vu sous cet angle, @NewtonProtocol représente plus qu’une infrastructure technique. Il propose un cadre où la vitesse de l’IA est équilibrée avec la responsabilisation humaine, permettant à l’automatisation de rester alignée sur les valeurs et les objectifs des organisations qui la déploient.
Dans les années à venir, l’avantage concurrentiel réel ne viendra peut-être pas uniquement du fait de construire une IA plus intelligente. Il pourrait provenir de la mise en place de politiques plus efficaces, qui définissent comment cette intelligence doit être utilisée.
Selon vous, qu’est-ce qui comptera davantage dans l’économie de l’IA : des modèles de plus en plus puissants, ou de meilleures politiques d’autorisation qui définissent les limites de leurs décisions ?
