The Bitter Lesson of Diffusion Language Models for Agentic Workflows: A Comprehensive Reality Check

Idea

论文系统检验 diffusion LLMs 在 embodied interaction 与 tool calling 中的能力，并用 DiffuAgent 将它们分别替换进 memory、early-exit verification、tool selection 和 format editing 模块。通过整体 agent 与局部模块两层实验，区分 decoding throughput 的收益、连续决策失败和不同角色的适配程度。

Research Problem

Parallel denoising 带来的 token generation 加速是否能转化为可靠的 agent execution 尚不清楚：连续行动需要利用前序 feedback 改变计划，tool calls 又要求精确 schema 和 parameters。论文研究当前 dLLMs 的错误集中在哪里，以及即使不适合作为整条 agent loop 的 backbone，是否仍能承担部分功能。

Insight

更高 throughput 不保证更高 task success。实验中的 repeated-action loops、JSON schema 和 parameter errors 表明，需要同时衡量 temporal decision consistency 与 symbolic precision。作者将这些现象联系到 denoising 的非自回归特征，但这是基于所测模型与设置的解释，不能推广成 diffusion 架构永远无法做 agents；模块替换也显示 memory/selector 等角色更有潜力，效果取决于具体 backbone 组合。

Method

1. 统一评测：比较 LLaDA-8B、Dream-7B、Fast-dLLM-7B 与 DVar-8B，以及 Qwen/Ministral autoregressive baselines；在 AgentBoard 的 ALFWorld、ScienceWorld、BabyAI 和采样后的 BFCL-v3 上测 success/progress 与 tool-call correctness。
2. Failure analysis：将连续超过三步重复同一动作定义为 retry loop；用 AST evaluation 区分 schema、parameter/value 与 wrong-function errors，同时报告 throughput，分析效率与完成能力是否一致。
3. DiffuAgent modules：在 embodied agents 中每隔若干步生成 memory summary，并用 verifier 判断是否陷入 deadlock；在 tool calling 中先筛选 tool subset，再用 editor 修复 JSON format，后者原则上不改变选定 function 或 parameters。
4. 对照与边界：逐一替换模块 backbone，并测试 decoding optimization、AR feedback 和 schema guardrails 等补救方法。正文 BFCL 只取每类至多 50 个实例，single-turn average 还排除 hallucination categories，因此不能直接等同完整官方榜单分数。