← Agent Tool Use 2026

ACL 2026 · Long · A77

Trajectory2Task: Training Robust Tool-Calling Agents with Synthesized Yet Verifiable Data for Complex User Intents

工具调用 / 训练 / 评测 · 直接工具使用 · 方法 / 系统

Idea

Trajectory2Task 采用 trajectory-first 数据合成:先在可执行工具环境中探索真实可运行的调用链,再反向生成用户任务,并加入 ambiguous、changing、infeasible intent。这样任务有可验证的执行结果作为基础,同时训练 agent 进行澄清、适应目标变化和遵守不可行约束。

Research Problem

现有 tool-use 数据常假设用户目标固定且信息完整;task-first 合成又需要 solver 生成 reference trace,若 solver 错误,错误可能被当作 gold。真实客服交互中的缺信息、用户改主意和政策禁止请求既影响 dialogue,也影响 backend writes,单看调用格式不足以评价。

Insight

从已执行轨迹反推任务,可以先确定环境中可达到的状态,再控制用户如何表达或逐步透露目标。把复杂 intent 放在任务和 user simulator 中,而保持可执行骨架,有助于同时获得交互难度与自动验收条件;不可行任务的成功应定义为诊断和合规响应,而非满足原请求。

Method

  1. 在 Tau2-Bench 的工具和数据库上建立 API dependency DAG,从用户库抽 profile、从 trajectory bank 取 seed,再沿工具图 random walk 取子集,由 explorer 实际执行多步调用;新轨迹回存 bank 扩大覆盖。
  2. 过滤没有数据库变化、无人工转交且无必要沟通输出的轨迹,由 summarizer 转成自然语言任务;validity-check LLM 按 realism、necessity、correctness 检查任务与 trace 的一致性,并以抽样人工审查检查 judge。
  3. 在 ambiguous 条件隐藏关键参数直到 agent 提问;changing 条件设置真正中途改目标或新增请求;infeasible 条件注明政策/工具限制、required diagnostic actions 与 forbidden actions,按完成前者且避免后者验收。
  4. 让强模型在合成任务中与模拟用户和工具闭环 rollout,保留自动 verifier 通过的成功 interaction trajectories,包括 reasoning 与 outward actions;用 token likelihood SFT 小模型,再测试三类 intent 及未见工具领域的迁移。

Sources & Reading Scope

阅读依据:官方 PDF 正文。核读页码按 PDF 页序计数,可能与 proceedings 页码不同。

p. 1 · p. 4 · p. 5 · p. 6

核读章节:3.1 Problem Formulation · 3.2.1 General Synthesis Pipeline · 3.2.2 Complex User-Scenario Construction · 3.3 Trajectory-based Supervised Fine-Tuning

核读探索→任务生成→重新 rollout 训练的两个不同轨迹阶段。执行结果提供 gold database state,但任务自然性、意图映射和 policy labels 仍依赖 LLM validity check,非完全形式化保证。infeasible task 的 gold 是合规诊断/响应轨迹,不能写成原本不可行目标被执行成功。