Value of Information: A Framework for Human–Agent Communication

Idea

论文用 Value of Information（VoI）决定 agent 应继续 clarification 还是直接 commit：估计一个问题可能带来的 expected decision utility 增益，再扣除 communication cost；只有净收益为正时才询问用户，否则执行当前 belief 下最优 action。

Research Problem

用户请求经常 underspecified，固定问几轮或依 confidence threshold 停止，都难以适应不同决策 stakes、属性重要性和用户打扰成本。研究问题是如何把“是否值得问”直接与 downstream action utility 联系起来，使同样的不确定性在不同任务中产生不同沟通策略。

Insight

降低 uncertainty 不一定改善决策，值得询问的是可能改变最佳 action 或减少高成本错误的信息。该方法无需逐任务调 confidence threshold，但仍需要明确定义 latent intent space、utility、question cost 与候选问题；正文的 parameter-free 不应理解为无任何任务设定或模型估计。

Method

1. 维护 latent user intents 的 belief distribution，以各 intent 下 action utility 的加权期望选择当前最佳 action，得到立即 commit 的价值 V(b)。Belief 由 LLM 显式输出概率近似。
2. 生成少量 targeted closed-ended questions，将答案限制为 Yes/No 或 multiple choice；对各 hypothesis 模拟 response likelihood，并对假设答案重新估计 posterior belief，计算 one-step lookahead expected value。
3. 对每个问题计算 expected posterior best-action utility 减 current utility 再减 question cost，选择最大正值问题；收到真实回复后更新 belief 并重复，若无正净收益或达到 clarification budget 则终止。
4. 在 animal guessing、模拟 medical diagnosis、flight preference 与 ambiguous WebShop 中比较 fixed-round、adaptive prompting 和 confidence-threshold baselines，以 utility–cost trade-off 评价。单步 lookahead 与 LLM probability estimates 使其不具备全局最优沟通保证。