ReCreate: Reasoning and Creating Domain Agents Driven by Experience

Idea

ReCreate 让一个 agent-as-optimizer 阅读 task agent 的 trajectories、execution logs 与 evaluation results，再修改其 scaffold 中的 roles、workflow、tools 和 memory。它先针对单例提出带证据的改动，再跨实例提炼 domain-level patterns，自动构建 specialized domain agent。

Research Problem

自动 agent generation 若只看最终 score，缺少失败发生在哪里、为什么发生的线索，往往需要大量盲目尝试；逐例修补又容易 overfit。论文研究如何把长交互经验转成可定位、可操作且能跨任务复用的 scaffold changes。

Insight

Agent 的能力缺口不一定来自 base model 参数，也可能是 workflow 顺序、缺失规则或重复易错操作。执行经验能指导选择应改 prompt、tool 还是 memory；跨实例汇总则帮助分离偶然错误与领域规律。这是 scaffold optimization，不是对 LLM weights 做 RL 更新。

Method

1. 以内外两层组织流程：inner loop 运行当前 scaffold 完成可验证任务，收集完整体验；outer loop 根据 trajectory、execution artifact 与 verifier feedback 更新 scaffold，迭代改进领域表现。
2. 把每次 episode 存为可交互 inspection environment，包含 scaffold、日志、代码库/数据库状态等；evidence retriever 索引 errors、failing tests、file operations，使 optimizer 可按需回查关键上下文。
3. Reasoning–Creating pipeline 先诊断成功/失败，再经 creation router 选择具体 scaffold component，通过编辑接口新增规则、调整流程、创建脚本工具或修改 memory mechanism。
4. Instance-level update 先生成 candidate change 与 justification 并缓存；domain-level update 跨多例提炼 reusable patterns 后整合，训练/开发 tasks 与最终 test split 分开，减轻只为某个失败实例定制的风险。