AI業界はより賢いモデルを求めて何年も追いかけてきました。ところが今、別の問題に直面しています。それは「制御」です。
研究を要約するAIエージェントは役に立ちます。取引に署名したり、資産を移動したり、オンチェーンの資本を管理したりできるものは、現実の責任を伴います。知能だけではそれを安全にすることはできません。明確な制限があってこそです。
@NewtonProtocol は、この課題に対してポリシーに基づく権限付与というアプローチで取り組みます。AIに無制限の権限を与えるのではなく、あらかじめ定めたルールに従って実行できるようにするのです。取引の上限、承認済みのスマートコントラクト、人の承認要件を、実行の開始前にワークフローの一部として組み込みます。これにより、不要なリスクを減らしつつ、自動化を実用的なまま維持できます。
この変化は、クラウドコンピューティングで起きたことに似ています。AWS、Microsoft Azure、Google Cloudは、計算能力だけでなく、強固なID（身元）・アクセス・権限管理によって、企業の信頼を獲得しました。自律型AIも同じ方向へ進んでおり、能力と同じくらい説明責任が重要になる可能性があります。
AIシステムが金融業務を扱い、ブロックチェーン基盤と直接やり取りするようになるにつれて、信頼はモデルの性能だけにとどまりません。組織は、明確に定義された範囲内で自動化が動作することをますます求めるようになり、重要なあらゆる行動は透明で検証可能である必要があります。
それが、@NewtonProtocol が目指している方向性です。AIエージェントをより能力の高いものにすることだけに焦点を当てるのではなく、適切な権限を与え、明確なポリシーを強制し、自律的な実行について、その責任が最初から説明可能である状態にすることを重視しています。