EvoRoute: Experience-Driven Self-Routing LLM Agent Systems

Idea

EvoRoute 在 agent workflow 的每个 subtask 上动态选择 LLM backbone，用历史执行经验共同估计 performance、monetary cost 与 latency。系统先检索相似步骤，再保留 Pareto frontier 上的候选模型，通过 Thompson sampling 作选择，并将新执行结果写回 experience base，使 routing 随使用过程持续更新。

Research Problem

现有 agent 系统通常将 planner、web agent 或 coder 固定绑定到某个 LLM，但同一 role 内的任务难度和 tool requirements 并不恒定。全程使用强模型可能造成高成本与长等待，固定使用小模型又可能损害成功率。论文将这种冲突表述为 Agent System Trilemma，研究如何在 multi-turn workflow 中细粒度分配模型。

Insight

可复用的 routing 经验不应只按 query 的语义相似度索引，还应包含 agent role、tool-use profile 和真实执行开销。先剔除被其他模型全面支配的选择，再在剩余候选间探索，可以把质量与资源约束显式连接。这里的 Pareto optimality 是基于检索到的历史统计，既不是所有未来任务的最优保证，也不能将 step success 与最终成功的相关性当作因果贡献。

Method

1. Experience base：完成 workflow 后拆分 trajectory，逐步记录 role、所选 LLM、subtask instruction 与 embedding、使用的 tools、cost、duration、step execution success 以及 task-level outcome。
2. Multi-faceted retrieval：分别按相同 role、instruction embedding 的 cosine similarity 和预测 tools 的重叠检索历史记录，取三个集合的 union，形成候选经验池而非要求三项同时匹配。
3. Pareto filtration：对候选 LLM 汇总 performance、平均 cost 与 duration；performance 统计结合 task outcome 和 step success。去除在三个维度上被其他模型支配的候选，得到经验性的 Pareto set。
4. Selection 与反馈：用 Normal-Inverse-Gamma posterior 表达各指标的不确定性，Thompson sampling 后按用户设定的质量、成本与延迟权重计算 utility；执行所选模型并更新经验。实验将该机制接入 ReAct、Smolagents 与 CK-Pro，比较 GAIA 和 BrowseComp+ 上的质量及开销。