エージェントについて私が不安に思うのは、間違えることではありません。黙って間違えることです。

エージェントは購入し、送金し、署名できます。そしてログには、すべて同じように「取引成功」と表示されます。予算をどれだけ超過したのか、誰に送金したのか、なぜ今なのか。それが判明するのは、もう手遅れになってからです。

だから、エージェントの品質は完了したタスクの数ではなく、停止した回数で測るべきだと思います。許可なく支払わなかった回数。新しい送金先の確認を求めた回数。そうした停止がゼロなら、それは自律性ではなく、蛇口が開きっぱなしということです。

ブレーキのない自律性は、機能ではありません。まだ起きていないだけのインシデントです。 #KiteBBW $KITE @KITE AI 中文

あなたなら、エージェントをどう評価しますか？完了したタスクの数ですか、それとも停止した回数ですか？