金融AIは停止できるのか？誰が？

銀行規制当局は、金融機関が人工知能や自律型エージェントをどのように利用しているかについて、監視を強化しています。監査や復旧の仕組みがあるのか、問題が起きたときにシステムを確実に停止できるのかを把握しようとしています。

私の見方では、金融分野におけるAIの導入は、驚くような回答を重視する段階から、責任をより重視する段階へと移っていくでしょう。ツールはパターンを検出したり、市場を要約したりできます。しかし、どのデータを使っているのか、誤りがあったときに誰が責任を負うのか、そして人がその判断を見直せるのかを把握しておく必要があります。

ラテンアメリカの銀行、フィンテック、暗号資産プラットフォームの利用者は、3つの点に注目するとよいでしょう。人による監督、データ保護、そして誤ったブロックや分類を修正するための明確な手続きです。判断を自動化しても、そのリスクがなくなるわけではありません。