私は、AIファイナンスの未来はより賢いAIにかかっているとは思いません。
金融におけるAIについて読むほど、ずっとある考えに立ち返ってしまいます。
知能は、もはや一番難しい問題ではありません。
私たちは、人の入力がほとんどない状態でも、市場を分析し、取引を実行し、ウォレットを管理し、オンチェーンのプロトコルとやり取りできるAIエージェントを構築しています。
それはすごいですね。
でもそれは、十分に注目されていないと思う疑問も投げかけています。
誰が、AIに実際に何を許可するかを決めるのですか？
AIは、その判断がリスクなのか、倫理的なのか、適切なのかを知りません。
それは、その取引が理にかなっているかどうかを立ち止まって問いません。
与えられた権限の範囲内で動くだけです。
その権限が間違っていれば、最も能力の高いAIでさえ、大きな金銭的損失につながる判断をしてしまう可能性があります。
それが、ひとつの理由で @NewtonProtocol l が私の関心を引いたのです。
AIエージェントをより高性能にすることだけに注目するのではなく、newton は認可レイヤーを導入します。これは、実行される前に、すべてのAI駆動の行動があらかじめ定義されたポリシーを満たしているかをチェックするものです。
これは、開発者が、AIが資金を動かすことを許可される前に、支出の上限、承認されたプロトコル、実行条件を定義できるようにするものです。
それは、信頼について考えるうえで、ずっと現実的な方法だと思います。
AIが常に正しい判断を下すと決めつけるのではなく、誤った判断が行われる可能性を減らす仕組みを作るべきです。
自律型エージェントが金融のより大きな部分を占めるようになるにつれて、私は、認可（オーソライゼーション）の枠組みがAIモデルそのものと同じくらい重要になると考えています。
成功するAIは、必ずしも最も賢いAIである必要はないからです。
それは、人々が理解でき、検証でき、信頼できるルールの中で動作するものです。
どう思いますか？
AIが金融においてより大きな責任を担うようになったとき、長い目で見てより重要になるのは、より賢いAIモデルでしょうか、それとも強固な認可（オーソライゼーション）の枠組みでしょうか？