WebClipper: Efficient Evolution of Web Agents with Graph-based Trajectory Pruning
Idea
WebClipper 把 web research 轨迹转换为 action–information dependency graph,寻找支撑最终答案的近似最小 DAG,再据此删去循环验证和无贡献分支。经过衔接性重写的精简轨迹用于继续训练,使 agent 学会更少但仍有用的工具调用。
Research Problem
长上下文和大 tool-call budget 虽可提高搜索覆盖,也带来重复核查、循环 reasoning 和探索死路。仅提示模型节约或粗略按步删除,可能移除答案依赖的证据,或留下引用已删除观察的断裂推理,因此效率优化需要识别信息依赖。
Insight
一个动作的价值取决于它产生的信息是否被答案直接或间接使用,而非其在原时间序列中的位置。以信息节点合并重复事实,再保留必要前驱,可以比简单截短更有选择地压缩;同时加入确实需要长链的任务,避免把短轨迹当成普适最优。
Method
- 从公开 QA 任务采样多条现有 agent 轨迹,保留 pass rate 在 0 到 0.5 之间的有挑战任务。LLM extractor 将每步概括为 action node,把观察拆成 atomic information 并语义去重,连接动作输入依赖和输出事实。
- 令动作成本为 1、信息成本为 0,从 query 到 answer 做 Dijkstra-style 前向搜索,再反向闭包补入必要分支,构成近似 MNDAG。重复图提取与裁剪三次,仅在至少两次必要动作集合完全一致时接受。
- 映射回原轨迹后,仅重写因删除步骤而新相邻的 reasoning,消除对已移除 observations 的引用;生成三个候选,按 base model perplexity 选择较符合其风格的版本。
- 对精简轨迹做 efficiency-oriented SFT,或与不同问题、同难度但无法裁剪的完整轨迹混合训练。评测答案正确率、tool rounds、tokens,并用 F-AE 综合 accuracy 与相对调用预算的效率。
Sources & Reading Scope
阅读依据:官方 PDF 正文。核读页码按 PDF 页序计数,可能与 proceedings 页码不同。
核读章节:Initial Trajectory Collection and Filtering · From Trajectory to State Graph · Pruning via MNDAG · Coherence-aware Thought Rewriting · Agent Evolution via Efficient and Hybrid Training · Experimental Settings
核读依赖提取、近似图算法、重写和训练。minimum-necessary 为 LLM 提取依赖上的近似结果,不是对所有可行搜索策略的全局最优证明;F-AE 依赖设定的最大轮数。