AIエージェントが顧客の資金を使って、支払いの実行や書類の作成、商品の購入などを自律的に行うようになれば、優れたモデルだけでは不十分です。権限や利用上限、安全性を管理する別個のシステムが必要になります。アルファ銀行のデジタルチャネル担当ディレクター、ダミル・バットゥリン氏がフォーラム「デジタルソリューション」でこう述べました。

同氏は、エージェントは自らの行動範囲を理解する必要があると指摘しました。具体的には、どのような場合に自律的に判断できるのか、人間の確認が必要なのはどのような場合か、また、そもそも実行が認められない操作は何かを把握しなければなりません。さらに、人工知能による個々の判断は、銀行のプラットフォーム上で設定・追跡できます。