Certains commencent à parler d’installer un coupe-circuit général sur le marché.
Sarah Breeden, vice-gouverneure de la Banque d’Angleterre en charge de la stabilité financière, a déclaré lors du forum annuel de la BCE à Sintra, au Portugal, que face à l’intelligence artificielle dans le secteur financier, la réglementation existante pourrait ne plus être adaptée. Elle vise l’IA de type « agents », c’est-à-dire des systèmes capables de prendre des décisions et de les exécuter eux-mêmes, sans qu’un humain doive donner son aval à chaque étape.
Sa proposition est très directe : un mécanisme de coupure au niveau du marché, ainsi qu’un interrupteur permettant de fermer l’ensemble des transactions lorsque le système échappe à tout contrôle. La façon dont ces propos sont tenus par une vice-gouverneure chargée de la stabilité financière leur confère un certain poids.
Elle craint surtout la « corrélation ». Si plusieurs institutions utilisent des agents reposant sur des modèles et des données similaires, la même erreur peut être répliquée en de très nombreux endroits au même moment, à une vitesse bien supérieure aux capacités d’intervention humaines. Ces propos ont été formulés le 30 juin et sont aujourd’hui à nouveau relayés : cela montre que la réponse n’est pas encore arrivée au bout du chemin.
Il reste aussi une autre question, non résolue : à qui revient le pouvoir d’arrêter, selon quels critères appuyer, et qui devra ensuite assumer les pertes. Tout cela ne peut pas être complètement décrit dans un simple document technique. Pour suivre la manière dont ces règles pourraient être mises en œuvre, voyez l’image en fin de texte avec le QR code du groupe.
Laisser aux machines un frein manuel : c’est conservateur, mais les personnes qui en discutent deviennent de plus en plus nombreuses.
Le véritable risque n’est pas que la machine soit trop rapide : c’est que tout le monde utilise la même machine.
#人工智能 #stabilité financière
Sarah Breeden, vice-gouverneure de la Banque d’Angleterre en charge de la stabilité financière, a déclaré lors du forum annuel de la BCE à Sintra, au Portugal, que face à l’intelligence artificielle dans le secteur financier, la réglementation existante pourrait ne plus être adaptée. Elle vise l’IA de type « agents », c’est-à-dire des systèmes capables de prendre des décisions et de les exécuter eux-mêmes, sans qu’un humain doive donner son aval à chaque étape.
Sa proposition est très directe : un mécanisme de coupure au niveau du marché, ainsi qu’un interrupteur permettant de fermer l’ensemble des transactions lorsque le système échappe à tout contrôle. La façon dont ces propos sont tenus par une vice-gouverneure chargée de la stabilité financière leur confère un certain poids.
Elle craint surtout la « corrélation ». Si plusieurs institutions utilisent des agents reposant sur des modèles et des données similaires, la même erreur peut être répliquée en de très nombreux endroits au même moment, à une vitesse bien supérieure aux capacités d’intervention humaines. Ces propos ont été formulés le 30 juin et sont aujourd’hui à nouveau relayés : cela montre que la réponse n’est pas encore arrivée au bout du chemin.
Il reste aussi une autre question, non résolue : à qui revient le pouvoir d’arrêter, selon quels critères appuyer, et qui devra ensuite assumer les pertes. Tout cela ne peut pas être complètement décrit dans un simple document technique. Pour suivre la manière dont ces règles pourraient être mises en œuvre, voyez l’image en fin de texte avec le QR code du groupe.
Laisser aux machines un frein manuel : c’est conservateur, mais les personnes qui en discutent deviennent de plus en plus nombreuses.
Le véritable risque n’est pas que la machine soit trop rapide : c’est que tout le monde utilise la même machine.
#人工智能 #stabilité financière
