以前は、AIがより良い意思決定によって金融を変えると思っていました。最近になって、難しい問題は知能そのものではなく「許可」なのではないかと考え始めています。AI戦略は数秒で機会を見つけられるかもしれませんが、その機会に「行動すべきだ」と判断し、判断を検証し、そして失敗したときの結果を引き受けるのは誰でしょうか。ニュートン・プロトコルを見ていくほど、それは、自動化が当たり前になる前に、これらの問いに答えようとする試みのように感じられます。目立つのは実行の速さではありません。むしろ、自律システムは計算力と同じくらいガバナンスを必要とするかもしれない、という考えです。この考えは、OpenGradient のようなプロジェクトを調べるときに何度もよみがえります。そこでは、AIの振る舞いを証明することが、結果そのものと同じくらい重要視されています。また、Project Genius のようなプライバシー重視のインフラでは、行動に対するコントロールがシステム設計の一部になっています。規模が大きくなると、AIはソフトウェアの問題ではなく、協調（コーディネーション）の問題へと変わっていきます。私たちは「機械が考えられるかどうか」を問う時間を減らし、代わりに「機械が誰の代理として許可されているのか」を問う時間を増やすことになるかもしれません。私たちはまだ、その違いを十分に理解できていない気がします。

@NewtonProtocol #newt $NEWT