ViRC: Enhancing Visual Interleaved Mathematical CoT with Reason Chunking

Idea

ViRC 用 Reason Chunking 把视觉数学推理划为 Critical Reasoning Units（CRUs）。每个单元包含支持一个中间命题的视觉信息及若干连贯文本步骤，单元之间按需调用 crop、scale、display，兼顾持续看图与推理结构。论文同时构建 CRUX 数据并设计三阶段训练课程。

Research Problem

单张静态图像加 text-only CoT 容易在长链中丢失图形细节和中间目标，而每一步都插入视觉信息又产生冗余。常见 answer-only reward 难给中间命题与工具选择分配信用，逐步密集评分则可能引入噪声，缺少合适的语义训练单元。

Insight

一次完整中间命题通常需要多个文字步骤，却未必需要重复获取视觉输入。以命题为单位组织推理，能让视觉调用发生在证据需求变化的位置，并把 reward 对准具备局部语义完整性的 reasoning chunk，连接结构学习、视觉 grounding 与策略优化。

Method

1. 从 54K 数学问题重新生成不同图像尺度下的正确和错误 reasoning paths，选取用于构造的长路径，将细粒度步骤按中间命题分组，形成约 100K CRUX instances。
2. 为每个 CRU 定位 focal object 和 reference text，合并 bounding boxes 作为支持区域，补充 image description、solution rationale 与跨单元 guiding questions。通过 crop、display 和 scale edits 实现 Planning、Reflecting、Verifying、Backtracking patterns。
3. Instructional SFT 在 50K 子集上屏蔽工具返回的视觉信号，先学习 CRU 格式；Practice SFT 用同一子集的完整 multimodal form 执行工具，并将视觉返回供当前 CRU 推理。
4. Strategic RL 从困难历史状态采样完整 CRU 或最终答案，以 GRPO 优化。奖励包含答案正确性、judge 评估的文字连贯性与视觉相关性、tool-pattern 对齐和格式惩罚，工具返回 observation tokens 不参与梯度。