Newton Protocol($NEWT )を探っている間、その問いについてずっと考えていました。AIをめぐる会話の多くは、モデルをより高性能にすること、より良い予測を生み出すこと、あるいはますます複雑な意思決定を自動化することに関係しているように見えます。これらの目標は重要ですが、私はそこに共通する一つの見えない前提があることに気づきました。つまり、知的なシステムが結論に到達したら、人々は次に起きることを自然に信頼するだろう、という前提です。 それだけで十分だとは思えません。 非常に高い能力を持つシステムでも、その行動が独立して検証できない場合は、重要な問いに答えを残したままになることがあります。自律システムがより意味のある責任を担い始めると、信頼は、決定がどれほど見事に見えるかではなく、その実行が事後に理解でき、精査でき、検証できるかどうかにかかってきます。