Impatient Users Confuse AI Agents: High-fidelity Simulations of Human Traits for Testing Agents

Idea

TraitBasis 用 activation steering 控制 user simulator 的 impatience、skepticism、confusion、incoherence 等 traits，并将其强度与组合系统化，用于测试 conversational agent 在相同任务目标、不同交互行为下的稳健性。τ-Trait 将这种用户变化接入工具执行场景，检查任务成功率如何变化。

Research Problem

常规 tool-use benchmark 的 simulated users 往往风格稳定、配合度高，难以暴露 agent 面对急躁、怀疑或表述混乱时的失败。仅在 system prompt 中描述 persona，又可能随多轮对话衰减。研究问题是如何以较少示例构建可调强度、可组合且持续的用户行为扰动，并评价其 realism。

Insight

作者假设预训练表示已包含 interaction style，少量 contrastive examples 可以隔离相应方向，无需重新训练用户模型。将 task intent 与 trait 强度分开控制，有助于把 agent 性能下降归因于用户行为变化；但模拟 realism 与真实用户分布的代表性仍是两件不同的事。

Method

1. 针对同一 context 构建只在目标 trait 强度上不同的 response pairs，对每层 token hidden states 求均值，再对 positive–negative 差分取平均；实验采用每个 trait 4 对 exemplars 提取 direction。
2. 对各候选层生成 10-turn conversations，由 5 位 annotators 选择 steering 最清晰的层；把不同 trait directions 组成 TraitBasis，以 intensity 系数缩放、组合并加到对应层的 hidden states。
3. 使用 Llama-3.1-8B 作为 user simulator，不更新其参数；在相同 intent、background 与 assistant role 下与 prompting、SFT、LoRA 对比 realism、fidelity、stability 和 compositionality。
4. 将 trait-controlled users 用于 τ-Trait 的多领域交互测试，以工具任务成功率衡量 assistant robustness；human 与 LLM judge 同时评价生成用户行为，避免仅凭 agent success 反推模拟一定真实。