Deep-Reporter: Deep Research for Grounded Multimodal Long-Form Generation
Idea
Deep-Reporter 将 deep research 扩展到包含图表、示意图和文字证据的长报告生成:按 section checklist 检索双模态材料,过滤后逐节撰写,并用压缩全局记忆加局部原文维持连续性。同时提供可用于后训练的 agentic traces 与稳定 sandbox benchmark,使图像选择、放置和图文一致性成为显式研究对象。
Research Problem
现有 deep research 大多面向文本事实;直接插图无法解决信息密度、事实相关性、引用位置和跨章节重复等问题。长历史与大量图像又容易超出 context,并损害整体结构。已有 benchmark 常只有短多模态答案,或依赖变化的开放网络,难以统一比较检索过程与长报告结果。
Insight
高质量插图应承担证据作用,而不只是装饰;将每节目标拆成粗粒度 description 和细粒度 semantic checklist,能同时指导文字查询、视觉查询与材料筛选。长文连续性需要两种尺度的信息:全局 narrative summary 保持方向,上一节 verbatim tail 支持衔接,不必重复携带全部历史。
Method
- Planner 将用户 query 变成 section 序列,每节含范围描述与具体事实/论点 checklist,允许人工调整;Searcher 据此产生 narrative queries 和 visual queries,在多模态工具中检索原始候选。
- Filter 用 LLM 判断文字与当前 checklist 的语义支持关系,用 VLM 判断图像信息量与相关性,优先保留 charts/diagrams,形成精简 evidence set。Reporter 接收 section plan、证据、记忆和章节位置逐节生成。
- 将图像转换成详细 caption 供文本模型决定引用位置;每生成一节递归更新 global summary,并保留前节末尾原文,生成 interleaved text/image citations,控制长距离叙事和局部连接。
- 从 1K 专家修订 query/plan 产生 17K 多 agent traces,经检索多样性、视觉对齐、幻觉、放置和重复使用筛查保留 8K。另从真实报告构建 247 个九领域任务及本地多模态 sandbox,并由专家裁决证据池、修订 silver reference reports。
Sources & Reading Scope
阅读依据:官方 PDF 正文。核读页码按 PDF 页序计数,可能与 proceedings 页码不同。
核读章节:2.1 The Deep-Reporter Framework · Sectional Planning with Dual-granularity Checklist · Agentic Multimodal Search and Filtering · Multimodal Incremental Synthesis with Recurrent Context Management · 2.2 Agentic Traces Construction · 3 Benchmark: M2LongBench
核读三个 agent、记忆更新、caption integration、训练轨迹筛选及 benchmark 标注设计。自动 quality assurance 在 500 条抽样上经专家检查,而非 8K 全部逐条人工验证;silver reports 是模型初稿加专家编辑,不视为唯一正确答案。