#newt $NEWT

Web3におけるAIに関する議論の多くは、ある1つの問いに集中しています。
AIは人間よりも優れた意思決定ができるのか？
AIに焦点を当てたブロックチェーン・アーキテクチャを調べているうちに、私は別の問いを考えるようになりました。
AIに「行動してはいけない」状況がいつ来るのを、誰が決めるのか？
この違いは、最初に見える以上に重要だと感じます。
ウォレットの署名は、取引を送信したのが誰かを証明しますが、変化する市場環境、リスク上限、ガバナンスのルールのもとでも、その取引がなお妥当であるかまでは説明しません。
だからこそ、プログラマブルな認可に注目しました。AIに対してデプロイ後に無制限の権限を与えるのではなく、実行前に、あらかじめ定義された条件をその行動が満たしているかを継続的にポリシーが評価できるようにするのです。

興味深いトレードオフは、より賢い認可にはより良い文脈が必要だという点です。ポリシーが外部データに依存するのであれば、信頼が消えるわけではなく、その信頼はその情報の質と信頼性へと移っていきます。
考えれば考えるほど、これはAIの問題というより、ガバナンスの問題に見えてきました。
自律エージェントがより能力を持つようになるにつれて、本当の課題は「より賢いAIを作ること」ではなく、「AIができることの境界を、より賢く設計すること」ではないでしょうか。
長期的により重要になるのは、より知能の高いAIエージェントでしょうか、それともより知能の高い認可ポリシーでしょうか？

@NewtonProtocol #NEWT $NEWT