AgentGL: Towards Agentic Graph Learning with LLMs via Reinforcement Learning
Idea
AgentGL 把 Text-Attributed Graph 上的 node classification 与 link prediction 改成 graph-native 工具探索和语言推理交替进行的 RL 问题。先教 agent 使用多尺度拓扑/语义检索,再移除覆盖激励并促使其充分分析已有证据,从而减少过度搜索。
Research Problem
静态 GraphLLM 只在开始时取一次邻域,无法根据推理中的缺口继续访问结构;一般 agentic retrieval 仅匹配文本而忽略原生图关系,重新建造知识图的 GraphRAG 也未必保留真实拓扑。直接 RL 还面临工具探索坍缩、搜索冗余和样本难度差异。
Insight
局部/全局与结构/语义是互补证据轴,工具需要覆盖这些轴;但学会调用全部工具不等于最优推理。分阶段由 exploration 转为 evidence sufficiency 判断,并借图本身的同质性、degree 或语义一致性安排课程,可把工具可用性与效率学习分开。
Method
- 提供 1-hop、2-hop neighborhood search、基于 PPR 的 structure salience search 和 graph dense search;邻域候选优先共同邻居,再平衡独有邻居,以 query/target 融合 embedding 排序。
- 构造可解析 reason–act–observe 轨迹,每轮至多一个检索动作,返回节点文本;使用 GRPO 或 REINFORCE++,无需逐步示范,以格式、答案正确性和每种工具一次性的 coverage reward 启动策略。
- 第二阶段在检索后插入 retrospective termination 提示,要求检查证据是否足够;去掉 coverage reward,对过短的 post-retrieval reasoning segments 施罚,并保留格式与正确性目标。
- 两阶段均按 graph-conditioned curriculum 由易到难训练:node classification 结合邻居标签一致性的 Wilson lower bound 与 degree,link prediction 按语义相似性和边存在标签的一致性评分。
- 在 citation、product、social TAG 上测试两类任务;训练限于 OGB-Arxiv 与 OGB-Products,其他数据用于 zero-shot transfer,并与相同 reasoner backbone 的静态及 agentic baselines 比较。
Sources & Reading Scope
阅读依据:官方 PDF 正文。核读页码按 PDF 页序计数,可能与 proceedings 页码不同。
p. 1 · p. 3 · p. 4 · p. 5 · p. 6
核读章节:Graph-Native Search Policy Bootstrapping · Less is More: Mitigating Search Overuse · Graph-Conditioned Curriculum Learning
核读工具定义、两阶段奖励、课程评分及实验范围;reasoning density 实际由 token-length threshold 代理,未将其等同于被验证的推理深度。