信頼は、システムがエラーを起こしたからといって、必ずしも失われるわけではありません。
失われるのは、あまりにも長い間、誰もシステムを確認しなくなったときです。
AIがより多くの決定に関与し始める様子を見て、このことに気づきました。
取引から資産配分、業務プロセスの自動化まで、機械に任せる仕事が増えるほど、人はその間の各ステップを見なくなります。
正しい結果が何度か出るだけで、検証という行為は、次第に見過ごされる習慣になっていきます。
そしてそれは、私がニュートンを別の見方で見るようになったときでもあります。
このプロジェクトのおもしろさは、ポリシーや検証にあるのではありません。
検証プロセスが、ユーザーが自ら実行しなくなったとしても常に存在し続けるようにすることにあります。
ある取引が承認されたからといって、その裏側の判断が信頼できるものになったとは限りません。
計算が正しい答えを出したからといって、解き方が必ずしも正しいとは限らないのと同じです。
AIが人間の代わりに自分で意思決定を始めるほど、この2つの間にある距離はますます重要になります。
これは、「信頼できるシステム」と「ただ馴染みのあるシステム」の違いだと思います。
馴染みのあるシステムは、人々が問いかけるのをやめさせてしまいます。
信頼できるシステムは、常に問いに答えることを可能にします。
おそらくAIの未来は、私たちがどれほどそのシステムを信じるかには依存しないでしょう。
むしろ、私たちがどこまでそのシステムを検証できるかにかかっているのです。 #newt $NEWT $SYN $BTC

さらに、AI主導の経済において価値があるのは何でしょうか？