DEFT: Demystifying VLN Failures via a Unified Dual-View Explainability Framework for LLM-based Agents

Idea

DEFT 用共享 VLN backbone 的双 head 联合解释黑盒导航 Agent：Mask Head 分析哪些时间步影响整条导航结果，Action Head 用可微 surrogate ensemble 提取这些决策相关的视觉证据，连接“何时关键”与“看到了什么”。

Research Problem

单独选择关键时间或画 saliency map 无法保证两类解释对应同一决策过程；LLM Agent 具有重复运行的行为波动，单一 surrogate 又可能把自身拟合误差当作原 Agent 的视觉依据。黑盒系统无法直接访问目标模型梯度。

Insight

共享跨模态表示减少时间与视觉解释脱节，多次 rollout 训练的 surrogate ensemble 则缓解单代理偶然性。反事实动作干预提供时间重要性的行为证据，IG 提供代理模型的视觉归因；后者仍是通过模仿间接解释，不能称为读取黑盒模型的真实内部机制。

Method

1. 以 VLN⟳BERT 编码指令、全景和前一状态，连接预测二元 mask 的 FFN 与预测邻接 viewpoint 分布的 Action Head；对目标 Agent 多次运行，分别形成 K 份 trajectory set 来训练 surrogate。
2. 代理训练结合 imitation 原 Agent 动作、shortest-path heuristic 的 pseudo-interactive supervision 和 A2C；RL 包含进度、路径忠实度及 stop 相关奖励，使代理兼顾模仿与可用导航。
3. 在每个 surrogate 上，以黑/白图为 baseline，沿输入插值计算 Action Head 对图像像素的 Integrated Gradients；默认均匀平均多个 attribution map，提高不同代理间的稳定性。
4. 冻结训练后的 backbone，再学习 Mask Head：mask=1 时以随机替代动作干预目标策略。训练鼓励增加可 mask 步骤，同时尽量保持原任务回报与行为，通过 PPO 风格目标、偏差惩罚及 KL 约束识别不可随意替代的关键决策。
5. 在 Matterport3D/R2R 对 NavGPT、MapGPT、NavGPT-2 进行解释，以 reward degradation/fidelity 检查时间重要性，并比较特征归因和人工判断；模块使用训练子集，诊断在 unseen 轨迹进行。