AIエージェントの真価が問われるのは、どれだけ賢そうに聞こえるかではなく、大きな損失につながるミスをしたときに何が起きるかです。

エージェントに調査用APIの料金を支払うよう頼んだと想像してみてください。エージェントはサービスを見つけ、支払いを済ませ、データを取得します。では、間違ったエンドポイントを選んだり、同じリクエストを繰り返して料金を使い続けたりしたらどうでしょう？

だからこそ、支出に関するルールが重要になります。Kite Passportでは、ユーザーはパスキーでセッションを承認し、合計予算、1回あたりの上限額、有効期限を設定できます。エージェントはその範囲内で対応サービスの料金を支払うことができ、ユーザーは支払い履歴を確認できます。

これにより、使える金額は管理できますが、エージェントが適切な判断をするとは限りません。古い情報を信頼したり、ニーズに合わないサービスを選んだりする可能性はあります。

この違いは重要だと思います。エージェントを、どれだけ多くの作業を人間の手を借りずにこなせるかだけで評価すべきではありません。ミスの影響を抑えられるか、何が起きたのかを把握できるかも問うべきです。

最初から広範なアクセスを許すより、タスクに応じた少額の予算をエージェントに与えるほうが賢明でしょう。

最初に制限するとしたら、予算、アクセス権、それともエージェントが下せる判断のどれですか？

#KiteBBW $KITE @KITE AI