RAAS: LLM Agentic System Architecture Search with GRPO

Idea

RAAS 将 Agentic Supernet 的架构搜索重点转向评估信号质量：同一 query 下比较一组候选 workflow，并对每个 workflow 重复执行后再计算相对收益，减少任务难度和随机执行对架构更新的干扰。搜索对象仍是按 query 生成多 agent workflow 的 operator 分布，而非直接微调执行任务的 LLM。

Research Problem

直接基线 MaAS 以概率化 supernet 组织可选 operators，但若不同架构在不同问题上只执行一次，绝对分数同时反映问题难度、架构能力和生成随机性。简单题可能让弱架构得到高评价，困难题又可能压低有效设计；因此搜索器可能强化偶然成功的结构，而非具有稳定收益的组合。

Insight

架构价值更适合被定义为相同任务条件下相对同组候选的贡献，且该贡献应基于重复实验的中心趋势。CAO 的组内中心化移除共同的 query 分数水平，MTAS 的 trimmed mean 降低异常执行的影响；二者分别针对跨问题偏移与同一架构的执行波动。有限样本和候选组质量仍影响估计，正文的稳定性解释不等于全局最优保证。

Method

1. 构建具有多层 operator 概率分布的 Agentic Supernet；每个架构由逐层激活的 operator 集合形成，目标以任务效用减去加权计算成本表达性能与开销的权衡。
2. 针对同一 query 从当前分布采样 N 个候选架构；MTAS 对每个候选进行 K 次独立随机执行，去掉两端一定比例结果后取 trimmed mean，形成能力估计。
3. CAO 计算候选组能力均值，以每个架构的聚合分数减去该均值作为 contextual merit，使同题内优于同伴与低于同伴的架构得到相反更新方向。
4. 用 contextual merit 乘以架构 log probability 对 operator 参数的梯度，汇总组内更新并迭代优化；在数学推理、代码生成和 GAIA tool use 上比较 MaAS 等方法，同时分析成本与稳定性。