#opg $OPG @OpenGradient
私が知っている開発者が、先月作ったという自動化について説明してくれました。オーケストレーターエージェントがタスクをサブタスクに分解し、それぞれを専門エージェントに渡します。各エージェントはツールやサブモデルを呼び出し、結果は集約されて返されます。クリーンなアーキテクチャで、見事な成果です。私は彼らにこう聞きました。「その連鎖のどこかで、想定していたモデルとは別のものが使われていたら？あるいは、途中にいるエージェントのプロンプトがこっそり書き換えられていたら、どうやって気づくの？」彼らは少し考えたあと、「気づかない。問題が下流で起きたときまで、気づけないと思う」と言いました。
これが、まだ誰も“エージェント型システム”を作る人たちが本格的に話題にしていない信頼の問題です。多くのパイプラインはまだ小規模なので、1つの侵害されたノードが生んだ結果も、明らかに壊れているようには見えず、わずかに違って見える程度で済んでしまいます。エージェント連鎖が長くなり、より自律的になっていくと、各リンクを個別に検証できる能力は「あると便利」から「実際に自分が承認したモデルとロジックの産物である出力を扱っているのかを確かめるための唯一の方法」へと変わります。OpenGradientの推論証明は、エージェント呼び出しをまたいで合成（コンポーズ）できるため、$OPG のインフラで構築されたパイプラインは、最終出力だけに系譜（ラインエージ）を付けないのではなく、ワークフロー全体に対する監査可能な証明のチェーンを生成します。
エージェント型AIの領域は、より長い連鎖で、より自律的な意思決定を行い、各ステップでの人間の確認が減っていく方向へ、非常に速いスピードで進んでいます。では、その進行のどの時点で、「推論レベルでの検証可能性」が重要なものを作る人にとって“任意”ではなくなっていくのでしょうか？