PART 5 · Harness 与自我改进
进化搜索：让最强 Harness 存活
进化算法 + 编码 Agent = 在庞大的 Harness 设计空间中自动发现最优解。
为什么进化搜索适合 Harness 优化？
说人话："进化搜索"就是大自然选育庄稼的套路：种一大片，长得好的留种，长得差的淘汰，偶尔杂交变异一下，一代代下来庄稼越来越好。为什么用这招？因为 Harness 是由 prompt、代码、配置混搭出来的东西，没法用数学公式算出"最优解"（术语叫"梯度不可用"），但很容易比出谁好谁差——能打分、不能求解的问题，正适合"养一群、留最强"。
三个契合条件
1. 搜索空间庞大且形状奇特——Harness 的组件包括自然语言 prompt、代码逻辑、工具配置，组合爆炸且高度离散。
2. 梯度不可用，但评估容易——无法对 prompt 文本求导，但可以直接在基准测试上跑出分数。
3. 多样性有价值——不同任务可能需要不同风格的 Harness，进化天然维护种群多样性。
2. 梯度不可用，但评估容易——无法对 prompt 文本求导，但可以直接在基准测试上跑出分数。
3. 多样性有价值——不同任务可能需要不同风格的 Harness，进化天然维护种群多样性。
Prompt 进化的先驱
Promptbreeder & GEPA
Promptbreeder（Fernando et al. 2023）：用丰富的变异操作进化 task-specific prompts。关键创新——变异 prompt 本身也通过进化改进，形成"元进化"。
GEPA（Agrawal et al. 2025）：结合 reflection-based prompting 和进化搜索。Agent 先反思当前 prompt 的不足，再通过进化算子产生候选改进，最终选择最优。
这两项工作为后续更大规模的 Harness 进化奠定了基础。
GEPA（Agrawal et al. 2025）：结合 reflection-based prompting 和进化搜索。Agent 先反思当前 prompt 的不足，再通过进化算子产生候选改进，最终选择最优。
这两项工作为后续更大规模的 Harness 进化奠定了基础。
AlphaEvolve：编码 Agent 的进化搜索
说人话：AlphaEvolve 就是把上面的"选育庄稼"用在程序代码上：维护一个"代码农场"（候选程序池），让 AI 每轮给表现好的代码提修改意见（生成 diffs），改完跑分，分高的留下继续繁衍。谷歌用它真的发现了比人类已知更快的矩阵乘法算法——庄稼选出了新品种。
AlphaEvolve（Novikov et al. 2025）
核心思路：维护一个候选程序池，用冻结的 LLM 生成代码 diffs 来改进程序，反复评估子程序并保留表现最好的。
Novikov et al. "AlphaEvolve: A coding agent for scientific and algorithmic discovery." 2025.
AlphaEvolve 系统架构：候选程序池 → LLM 生成 diffs → 评估 → 适者保留。
Prompt 设计
父程序 + 评估结果 + 指令 + 元信息共同构成进化 prompt
进化标记
用 # EVOLVE-BLOCK-START / # EVOLVE-BLOCK-END 显式标记可改进区域
Meta-prompt
指令和上下文本身也参与共同进化，而非固定不变
消融实验
证明进化流程、上下文 prompt、meta-prompt、全文件进化、更强 LLM 各自有独立贡献
AlphaEvolve 消融实验：各组件对最终性能的贡献。
Darwin Gödel Machine（DGM）
说人话：DGM 比 AlphaEvolve 更激进——进化的不是别人的代码，而是 Agent 自己的"操作系统"（它自己的 harness 代码）。相当于一群机器人，每个都可以看自己的考试错题、然后动手改造自己的大脑回路，改得好的机器人留下来继续繁衍后代。名字里的"达尔文"就是这个意思：物竞天择，最强的自我改造方案存活。
DGM（Zhang et al. 2025）
与 AlphaEvolve 不同，DGM 显式针对可编辑的 harness 代码仓库进行进化——Agent 被允许修改自己的 harness 代码。
Zhang et al. "The Darwin Gödel Machine: Open-Ended Evolution of Self-Improving Agents." 2025.
- 初始化——从池中一个 coding agent 开始
- 选择父代——按性能概率选一个父代（概率与子代数量成反比，鼓励探索）
- 反思 + 提议——父 agent 检查自己的 benchmark 评估日志，提出 harness 改进方案
- 变异——修改 harness 代码，产生新 agent
- 评估——新 agent 在基准测试上评估，只有性能足够高才被加回池中
- 重复——循环直到达到停止条件
DGM 工具与实验结果
工具集：bash + editor（view / create / edit）
实验（基于 Claude 3.5 Sonnet）：
· SWE-bench Verified：20% → 50%（+30 pp）
· Polyglot：14.2% → 30.7%（+16.5 pp）
无需人类介入，Agent 自主进化出更强的 harness 设计。
实验（基于 Claude 3.5 Sonnet）：
· SWE-bench Verified：20% → 50%（+30 pp）
· Polyglot：14.2% → 30.7%（+16.5 pp）
无需人类介入，Agent 自主进化出更强的 harness 设计。
适用范围与局限
适用场景
- 候选解可自动评估
- Fitness 易量化（数值化指标）
- 矩阵乘法加速
- GPU kernel 优化
- 算法竞赛
- 数据中心调度
不适用场景
- 评估速度慢（每次需数小时）
- 评估标准模糊或主观
- 主要基于启发式判断
- 计算预算有限
- 需要人类审核环节
效率关注点
进化搜索的计算开销不可忽视。AlphaEvolve 和 DGM 都需要大量评估轮次，每轮都涉及 LLM 推理 + 代码执行 + 基准测试。计算效率（每代需要多少次评估）和进化效果（每代提升多少）之间的平衡仍是开放问题。
联合优化：模型权重 + Harness
说人话：前面所有方法都只改"工作流程"，不动 AI 的"大脑"（模型权重）。SIA 想两个一起改：既优化流程，也顺便重新训练大脑。听起来很美，但风险也大——就像一边改赛车引擎一边改赛道，两边同时变化容易失控（这就是文中说的"训练稳定性"问题）。
SIA（Hebbar et al. 2026）
SIA 将 harness 改进和模型参数更新放入同一优化循环：
· Meta-Agent——提出新的 harness 设计
· Task-Specific Agent——在新 harness 下执行任务
· Feedback-Agent——根据结果决定下一步是更新 harness 还是更新模型权重
方向有趣，但证据暂时性：训练稳定性和 Goodhart 效应（优化代理指标导致真实目标退化）仍是开放挑战。
· Meta-Agent——提出新的 harness 设计
· Task-Specific Agent——在新 harness 下执行任务
· Feedback-Agent——根据结果决定下一步是更新 harness 还是更新模型权重
方向有趣，但证据暂时性：训练稳定性和 Goodhart 效应（优化代理指标导致真实目标退化）仍是开放挑战。
Hebbar et al. "Self-Improving Agents." 2026.
SIA 架构：Meta-Agent 提出 harness → Task Agent 执行 → Feedback Agent 决定优化方向。
核心观点：当搜索空间庞大、梯度不可用、但评估容易时，进化搜索是优化 Harness 的自然选择。从 Promptbreeder 的 prompt 进化，到 AlphaEvolve 的程序进化，再到 DGM 的 harness 代码自我改写——进化压力正在让最强的 Agent 存活。未来的 SIA 方向则试图让 harness 和模型权重协同进化，但稳定性挑战仍待解决。