MemSearch-o1: Empowering Large Language Models with Reasoning-Aligned Memory Growth in Agentic Search

Idea

MemSearch-o1 将搜索记忆从不断拼接的历史转为由 query seed tokens 生长的细粒度 fragments，并在回答前回溯重排为连贯 memory path。它既保留与当前搜索目标对应的证据，又用原始问题约束最终记忆，减少多轮检索中的信息稀释与目标漂移。

Research Problem

think-search loop 会积累冗余文档和思考记录，长上下文中的重要证据容易被忽略；整段 query-document embedding 或直接摘要又可能把关系混在一起，丢失细节。由于这些记忆还会影响下一轮搜索，早期低质量压缩可能逐步放大检索和推理偏差。

Insight

问题中的实体、动作、程度与时间限定分别承载不同语义需求，逐 seed 提取证据比对长文档作统一压缩更容易聚焦。最终有价值的片段不仅要接近原问题，还需要与其他片段形成桥接；因此记忆筛选和路径组织应同时考虑目标相关性与片段间连接。

Method

1. 每轮对搜索 query 用 spaCy 提取和分组 memory seeds，区分 subjects、actions、degree modifiers 与 temporal markers，以这些词组明确本轮证据需求。
2. 将各 seed、检索结果和当前 query 约束交给 LLM，生成简洁且相关的 memory fragments，供后续 reasoning 与搜索继续使用。
3. 搜索结束后汇集所有轮次 fragments，计算对原始 query 的 embedding cosine relevance，以及与其他片段的 bridge potential，按加权 contribution 和阈值剔除低贡献记忆。
4. 用带相邻语义平滑惩罚的 greedy search 组织有限长度 memory path，最终直接基于该路径生成答案；与无记忆管理及其他 memory baselines 在长文档 QA 和大语料搜索上比较。