誰かが市場に対して総合的な遮断スイッチを取り付けるべきだ、という議論を始めた。

英国中央銀行で金融の安定を担当する副総裁のSarah Breedenは、ポルトガルのシントラで開催された欧州中央銀行（ECB）の年次フォーラムで、金融分野におけるAIに直面したいまの規制は、すでに適合していない可能性があると述べた。彼女が指摘したのは、エージェント型のAI、つまり自分で意思決定し、自分で実行し、人が途中で承認する必要がないタイプのシステムだ。

彼女の提案は非常に直接的だ。市場レベルのサーキットブレーカー（遮断機構）と、システムが制御不能になったときに取引全体を止められるスイッチ。金融の安定を担う副総裁の口から出たこの話は、軽くはない。

彼女が懸念しているのは相関性だ。複数の機関のエージェントが似たモデルやデータを使っていると、同じ誤りが同時に何度も複製され、人間の介入で対応できる能力をはるかに超える速度で広がりかねない。こうした発言は6月30日に行われ、その後改めて持ち上がっていることから、答えはまだ道の途中にあるのだろう。

ここにはもう一つ、解決されていない問題がある。停止権は誰に帰するのか、どのような基準で押すのか、そして事後に誰が損失を負担するのか。これらは技術文書だけで書き切れる類のものではない。こうしたルールがどのように具体化されていくのかをさらに見ていくには、最後のページにある図でグループのQRコードを確認してほしい。

機械に手動ブレーキを用意する——保守的に聞こえるが、それを議論する人が増えてきている。

本当のリスクは、機械が速すぎることではない。すべての人が同じ一台の機械を使っていることだ。

#人工智能 #金融安定