Promptbreeder: Self-Referential Self-Improvement Via Prompt Evolution

一个通用 Prompt 未必适合所有任务，人工找好 Prompt 又依赖大量试错。Promptbreeder 同时研究任务指令和生成指令变体的方法，希望搜索过程能形成更有效的 Mutation Prompt，而非一直依赖固定改写话术。

先从普通 Prompt Search 出发：所有候选都由同一改写指令产生，容易集中在相似措辞。改写指令本身也是文本，Model 同样能生成其变体。于是可以把“如何产生新 Prompt”纳入种群，让选择过程间接筛选有用的变异方式。这里的间接 Credit Assignment 是最需要警惕的地方。

如果 mutation 规则也用自然语言表示，generator 就可以把自己的操作条件作为可编辑对象。由此可区分直接改进任务 prompt 和改进产生 prompt 的方法：后者会影响下一轮候选的分布，是本文自指机制的核心。

沿用原文算术任务作教学演示：Task Prompt 指导 Solver 解应用题，Mutation Prompt 要求改变解题组织方式。LLM 根据二者产生新 Task Prompt，在训练题上测 Fitness；Hyper-Mutation 还可改写 Mutation Prompt，新版本随后继续生成候选。输出是任务指令及伴随的变异策略。示例措辞为教学构造，实验还包含多种 Mutation Operators。

两层字符串映射足以说明自指关系：P 是任务指令，M 是变异指令，H 是更外层变异指令。LLM(M+P) 生成 P′，LLM(H+M) 生成 M′。加号表示文本拼接。Fitness 评价的是后代任务表现，因此 M 的贡献与 P 的初始质量、采样运气混在一起；公式没有保证 M′ 比 M 更善于改进。

P′ = LLM(M + P)
M′ = LLM(H + M)
Evaluate task performance after applying P′

Prompt 可以承担 Solver 指令，也可以承担 Proposer 的改进策略。分类必须根据用途判断，不能因为实现载体同为文本，就把两种变化视为同一件事。

最脆弱的假设是好后代意味着好 Mutation Prompt。一个强父代或一次幸运采样可能让无效 Mutation Strategy 被保留。

fitness 来自带答案的训练任务，base language model、外层选择算法和 hypermutation 机制仍固定。可编辑对象主要是 prompt 文本，结果受任务分布与评估预算制约；这里的 self-modification 范围不能延伸为完整系统任意重写和无界进步。