以前は、AIの評判はパフォーマンスのことだと思っていた。
より良い取引。
より速い回答。
より高いリターン。
しかし自律エージェントについて考えれば考えるほど、それは浅すぎるのではないかと感じる。
人間の従業員は、たった1つの良い判断の後では信用されない。
信頼は、繰り返される行動によって築かれる。
現れてくる（姿を見せる）。
ルールに従う。
例外（エッジケース）の取り扱い。
誰も見ていないときにアクセスを乱用しない。
AIエージェントにも同じことが必要になるかもしれない。
1日の上限が$500.00から始まるエージェントを想像してみてほしい。
120日を超えると、12,480件のアクションを完了する。
99.94%がポリシー内に収まっています。
無許可の実行は0件。
平均実行コストは$1.92から$0.68に下がります。
失敗したアクションは3.40%から0.27%に減少します。
その時点で、そのエージェントは単に「有用」なだけではありません。
行動履歴があります。
そして、その履歴が検証可能なら、単なる主張よりもはるかに価値のあるものになります。
それは評判になります。
私が @NewtonProtocol について興味深いと思うのは、その部分です。
実行前の認可は、AIのアクションに「はい」か「いいえ」と答えることだけではありません。
それは、定義された境界内でエージェントが時間とともにどのように振る舞うかの記録を作るのに役立つかもしれません。
いつか、AIエージェントがもっと自由を得るのは、誰かが安心したからではなくなるかもしれません。
過去の行動が、それに値することを証明しているからです。
きれいな履歴があれば、より高い制限を解放できるかもしれません。
一貫したポリシー遵守によって、より複雑なワークフローが解放される可能性があります。
違反を繰り返せば、権限は自動的に低下する可能性があります。
それは私には、より健全な未来に感じられます。
盲目的な信頼ではありません。
無制限の自律性ではありません。
人間と同じように、AIが徐々に責任を得ていくシステム：
証明によって。
その世界では、最も価値のあるAIは、最も高いリターンを約束するものではないかもしれません。
それは、最もクリーンな実績を持つものかもしれません。