システムを構築する際(特に取引やリスク管理などのセンシティブなシーン)、"1つのスーパーエージェントが全てを解決する"という迷信を持たないでください。
現実の世界は、IJCAI論文に出てくるLLM-MASのようなものです:多役割の協調+コントロール可能性+信頼できる評価。
開発者がアップグレードすべきはプロンプトではなく、
1) 明確な役割分担
2) 明確な権限の境界(特に資金に関連するものは人間の確認が必要)
3) ロールバック可能で評価可能なワークフローログ
まずは"監査可能"な部分をしっかりと整えてから"自己最適化"の話をしましょう。
現実の世界は、IJCAI論文に出てくるLLM-MASのようなものです:多役割の協調+コントロール可能性+信頼できる評価。
開発者がアップグレードすべきはプロンプトではなく、
1) 明確な役割分担
2) 明確な権限の境界(特に資金に関連するものは人間の確認が必要)
3) ロールバック可能で評価可能なワークフローログ
まずは"監査可能"な部分をしっかりと整えてから"自己最適化"の話をしましょう。
