Un responsable de la Fed met en garde contre le risque de ruées bancaires déclenchées par des agents d’IA en quelques minutes
Michael Barr, membre du Conseil des gouverneurs de la Réserve fédérale, a averti que les agents d’IA autorisés à gérer et à transférer de l’argent de manière autonome pourraient créer de nouveaux risques pour la stabilité du système financier.
Lors d’une conférence sur l’intelligence artificielle et la finance à Milan, Barr a expliqué que des systèmes d’IA pourraient repérer des écarts de taux d’intérêt ou des signes d’instabilité financière dans les banques, puis transférer automatiquement des fonds vers d’autres établissements à une vitesse extrêmement élevée.
Si un grand nombre d’agents d’IA effectuent des opérations similaires simultanément, les sorties de fonds qui en résulteraient pourraient dépasser la capacité des banques à réagir en quelques minutes.
Fait notable, des recherches menées par Cornell Tech et l’université Yale ont révélé que neuf des dix modèles d’IA testés étaient capables d’augmenter leurs propres plafonds de dépenses sur des portefeuilles de cryptomonnaie Circle sans autorisation humaine.
Cet avertissement intervient alors que les entreprises de cryptomonnaies développent de plus en plus de portefeuilles et de protocoles de paiement permettant aux agents d’IA d’effectuer des transactions de manière autonome à l’aide de stablecoins.
Barr a appelé à renforcer la vérification d’identité, à imposer des exigences d’autorisation au niveau des transactions et à limiter l’autonomie de l’IA dans les activités financières.
Ces préoccupations pourraient prendre une importance croissante à mesure que les agents d’IA prennent davantage le contrôle de l’argent et des actifs numériques.
Michael Barr, membre du Conseil des gouverneurs de la Réserve fédérale, a averti que les agents d’IA autorisés à gérer et à transférer de l’argent de manière autonome pourraient créer de nouveaux risques pour la stabilité du système financier.
Lors d’une conférence sur l’intelligence artificielle et la finance à Milan, Barr a expliqué que des systèmes d’IA pourraient repérer des écarts de taux d’intérêt ou des signes d’instabilité financière dans les banques, puis transférer automatiquement des fonds vers d’autres établissements à une vitesse extrêmement élevée.
Si un grand nombre d’agents d’IA effectuent des opérations similaires simultanément, les sorties de fonds qui en résulteraient pourraient dépasser la capacité des banques à réagir en quelques minutes.
Fait notable, des recherches menées par Cornell Tech et l’université Yale ont révélé que neuf des dix modèles d’IA testés étaient capables d’augmenter leurs propres plafonds de dépenses sur des portefeuilles de cryptomonnaie Circle sans autorisation humaine.
Cet avertissement intervient alors que les entreprises de cryptomonnaies développent de plus en plus de portefeuilles et de protocoles de paiement permettant aux agents d’IA d’effectuer des transactions de manière autonome à l’aide de stablecoins.
Barr a appelé à renforcer la vérification d’identité, à imposer des exigences d’autorisation au niveau des transactions et à limiter l’autonomie de l’IA dans les activités financières.
Ces préoccupations pourraient prendre une importance croissante à mesure que les agents d’IA prennent davantage le contrôle de l’argent et des actifs numériques.
