EverMind三篇论文,交出AI全栈自进化的首份答卷

EverMind三篇论文,交出AI全栈自进化的首份答卷

·PChome原创·作者:PChome编辑部

如果把自进化 AI 放在整个 AI 发展的进程中来看,真正困难的并不是提出“让 AI 自我进化”这个概念,而是如何让这种进化真正发生。

如果把自进化 AI 放在整个 AI 发展的进程中来看,真正困难的并不是提出“让 AI 自我进化”这个概念,而是如何让这种进化真正发生。

一个 Agent 的实际表现,不仅取决于模型本身,更取决于包裹在模型外围的「脚手架」——提示词、注入的知识、运行时控制逻辑等。

让模型自己修改这些代码看似简单,真正的难点却在于如何避免过拟合:模型自我生成的反馈往往充满噪声,一个看似有效的修改,可能只是针对特定测试集的过拟合,换个场景就会导致灾难性崩溃。

技能(Skills)的规模化管理,是第二道关卡。

当 Agent 把成功经验固化为可复用的技能文件,技能数量会爆炸式增长,那么如何管理这些碎片化、冗余、质量参差不齐的技能?又如何在一个数十万量级的技能库中,精准检索出当前任务真正需要的那几个?

这类工程问题长期被学术界忽视,却恰恰是产品能否落地的关键。

模型权重(Weights)的训练信号分配,是第三道关卡。

在最底层的模型训练阶段,同策略自我蒸馏(On-Policy Self-Distillation,OPSD)是提升推理能力的有效手段。

但传统 OPSD 在处理长序列推理时,会把相同的监督权重均匀分配给每一个生成步骤,完全忽略了错误发生的时序上下文。这就像长跑时,无论你在起跑摔倒还是在终点前摔倒,教练的惩罚都一模一样。

如此粗颗粒度的信号分配,严重拖累了模型的学习效率。

EverMind 的三篇论文,正是分别瞄准这三道难关,各自给出了严谨的解法。

在实际部署中,模型权重往往是冻结的,修改 Agent 外围的 Harness 成为了提升性能的最直接手段。

EverMind 在《HarnessBank: Semantic Gene-Bank Search with Gated Verification for Agent-Harness Self-Evolution》一文中,提出了一套全新的框架:

它能够让 Agent 自主诊断失败并重写自己的运行逻辑,同时从根本上解决了自我改进中的过拟合问题。

这套框架的核心创新在于将“提出变更”与“归因变更”彻底分离。

在过去的研究中,模型既当运动员又当裁判,自己写代码自己评估,极易产生幻觉式的性能提升。

而在 EverMind 的方案中,语言模型只负责诊断失败原因并提出补丁(Patch),所有的采样、测量和显著性检验全部交由确定性的代码逻辑来控制。

这一设计确保了每一个被系统认可的性能提升,在统计意义上都是绝对可靠的,而非测量误差或随机波动。

更有创新性的是其引入的装备基因库(Harness Gene Bank, HGB)机制。

传统的自进化系统往往以“任务”为键(Key)来存储改进,这极易导致系统只学会了如何解决特定的几道题,换一个场景便原形毕露。

EverMind 则将每一份高性能脚手架以“WHERE × WHY”(改动作用在哪个环节、又是为何被引入)作为语义坐标存档,并支持通过故障诊断进行“重新发明”,或跨单元进行“机制重组”,防止搜索过程陷入崩溃或原地打转。

这种设计引入了强大的抗过拟合归纳偏置——系统学到的不是“如何解决这道题”,而是“如何修复这类病理”。

为了从大量候选后代脚手架中高效挑出真正有效的改进,团队还设计了分级装备筛选(Gated Harness Screening)机制,用有效性、激活、配对显著性、增益四道顺序闸门层层过滤,兼顾了评估成本与结果的可信度。

实验结果证明了这一设计的有效性。

团队默认以 Qwen3.6-27B 作为任务 Agent、Claude Opus 4.8 作为进化 Agent,在 Terminal-Bench-2、LiveCode、Omni-MATH、BrowseComp+、GDPval、AppWorld、SWE-bench 七个多样化基准上评测,并与 GEPA、DGM(Darwin Gödel Machine)两种当前最先进的自进化方法对比。

结果显示,在冻结任务 Agent 权重的情况下,HarnessBank 在全部七个基准上取得了 5.1%到 15.4%的一致性能提升。

同时所有增益均通过了配对显著性检验(z≥1.96),证明这些提升在统计意义上绝对可靠,而非测量误差或随机波动。

论文中还有一个极具启发性的发现:

跨模型实验证实,这些性能提升来自模型特异性的自进化过程,而不是存在某个放之四海而皆准的“万能脚手架”。

获胜的补丁追踪的是模型的主导“病理”,而不是模型的大小或家族。

也就是说,当你更换一个不同的基础模型时,主导病理会改变,对应的最优脚手架也会随之改变;但同样的病理-补丁匹配关系,会在不同的模型家族中重复出现。

这意味着,EverMind 构建的这套“诊断-归因”循环机制,是一种可以跨模型迁移的元能力,证明了 AI for AI 的技术可行性。

如果说 Harness 的自进化赋予了 Agent 重写逻辑的能力,那么“技能”(Skills)则是 Agent 沉淀经验的具体载体。

在 EverMind 的 Raven 框架中,内置了高达 10 万项开箱即用的技能。

这并非简单的数量堆砌,其背后的工程与科学支撑,正出自《SkillCorpus: Aggregating, Curating, and Evaluating the Open Skill.md Ecosystem》。

随着开源社区中技能文件(如 Skill.md 格式)的爆发式增长,这些资产呈现出严重的碎片化、冗余和质量不均。

EverMind 团队构建了一个名为 SkillCorpus 的框架,首次在规模化层面上对开放技能生态进行了聚合、策展、匹配和评估。

这个过程堪称一场浩大的数字淘金。

团队从爬取的大约 82.1 万个原始技能中,通过多阶段多维度策略过滤,最终精选出 96401 个高质量技能。

为了管理这些技能,他们建立了一个包含 16 个类别的分类法,并从实用性(Utility)、鲁棒性(Robustness)和安全性(Safety)三个维度进行了严格的质量控制。

仅仅有库还不够,关键在于检索。

EverMind 配合这个庞大的语料库,微调了一套专门的检索与选择技术栈,确保 Agent 在执行任务时能够精准匹配到相关的技能。

SkillsBench、GDPVal 和 QwenClawBench 三个基准测试中的端到端评估显示,自研的 Raven Harness 集成 SkillCorpus 后,Agent 在所有基准上均获得了稳定的性能提升,其中在 SkillsBench 上的提升最大,达到了 7.5 个百分点。

通过深入的运营分析,团队还识别出了技能带来的增益边界——

覆盖边界(技能库是否覆盖了任务所需的知识)和 Harness 边界(Agent 的脚手架是否能有效调用技能),这为未来如何进一步优化技能检索和应用指明了方向。

这篇论文不仅是对 Raven 10 万技能库的技术解密,更是业界首个关于“经过策展和检索服务的社区技能库如何在真实 Agent 任务中发挥作用”的端到端系统性研究。

更进一步,技能并非一入库就固定不变。

无论是人工编写的技能,还是 AI 自动生成的技能,EverOS 都能依据任务执行的成败经验对其持续打磨。

用得好的被强化、被复用,用得差的被修正、被淘汰。

技能库因此不是一份静态清单,而是一个随任务不断自我进化、越用越强的资产,这也正是技能沉淀归属于任务层的原因所在。

自进化的最深层,是模型权重的自我迭代。

EverMind 的最新论文《DASH: Divergence-Adaptive Supervision Horizons for On-Policy Self-Distillation of Reasoning Models》,展示了其在底层算法上的深厚功底。

传统的同策略自我蒸馏(OPSD)存在一个致命的时间盲区:

它对所有局部散度(即学生与教师的差异)分配相同的系数,完全忽略了错误发生的时间顺序和上下文。

EverMind 的研究团队通过对大量真实推理轨迹的分析,发现了一个关键现象:在一个推理序列中,局部散度值的大小与未来散度的演变之间,存在极弱的关联。

这意味着,用同一个系数来处理所有时间步的散度,本质上是在用一把尺子量所有不同形状的错误,必然导致监督信号的严重失真。

为了解决这一问题,EverMind 提出了 DASH(Divergence-Adaptive Supervision Horizons)。

DASH 的核心思想是将每个局部蒸馏信号与序列级均值之间的差距,转化为一个自适应的传播门(Propagation Gate),然后利用这些门控制向后的多步聚合。

当一个时间步的局部散度高于序列均值时,说明这里是一个高风险分叉点,DASH 会打开一个更大的传播门,让这个时间步的监督信号向前传播更远;反之,传播门收窄,避免无关紧要的步骤干扰整体学习。

实验结果令人印象深刻。

在 AIME 2024、AIME 2025 和 HMMT 2025 三个极具挑战性的数学推理基准上,DASH 在 Qwen3-1.7B、Qwen3-4B 和 Qwen3-8B 三个模型规模上均取得了所有对比方法中的最高分。

在 Qwen3-1.7B 上,DASH 将三个基准的平均得分从 vanilla OPSD 的 41.87 提升至 45.07;在 Qwen3-8B 上,从 65.00 提升至 66.40。

更重要的是,DASH 不需要引入任何额外的教师或学生前向传递开销,这意味着这种性能提升几乎是免费的。

在长期记忆领域已经贡献了数篇 ACL、KDD 等顶会高质量论文,并取得开源库 1.8 万 star 后,EverMind 继续分享对自进化演进的研究成果——

将自进化的完整路径,概括为一个从任务层到元改进层的四层递进体系。

上述三篇论文构成的技术栈,与 EverMind 内部的产品和研究框架之间,存在着精密的映射关系:

1、任务层:

任务层是最直接的进化层次,进化在单次任务中即时发生。

优化对象是单次任务的执行质量,既包括记忆的提取与回写,也包括技能(Skills)的即时沉淀与复用;经验来源是 Context、Trace 与用户反馈,更新动作是即时回写,验证方式是结果与反馈。

这一层的能力复利是“记得更牢、用得更顺、单次任务做得更好”,价值定位是沉淀任务级、可复用的记忆与技能资产。

这正是 EverOS 与 SkillCorpus 所覆盖的核心场景。

2、脚手架层:

脚手架层(Harness)优化对象是 Code 与 Policy,即 Agent 外围的运行逻辑与控制策略;经验来源是 Eval 与 Reflection,更新动作是脚手架的版本迭代,验证方式是 Agent Evals 复盘。

这一层的能力复利是“更会执行”,价值定位是可复用行为资产的持续积累。

这正是 Raven 框架与 Self-Evolving Harness 论文所对应的工作。

3、模型层:

模型层优化对象是模型本身,经验来源是高价值轨迹、偏好与失败样本,更新动作是 LoRA 与端侧模型的验证后灰度,验证方式是离线集加灰度测试。

这一层的能力复利是“更准、更省”,价值定位是个性化的专属模型能力。DASH 论文正是这一层的核心算法支撑。

4、元改进层:

元改进层是整个框架最令人兴奋的顶层。

优化对象是 Evaluator、Data 与 Training Recipe 本身,经验来源是多轮实验与 Benchmark,更新动作是优化“提出—选择—验证”的整个循环,验证方式是版本门槛加评测体系。

这一层的能力复利是“下一轮进化更快、更可靠”,价值定位是让改进能力本身也持续升级。

这个四层框架的深刻之处在于,它把自进化拆成了四个层层递进又彼此支撑的环节,并为每一层都配备了具体的技术路径与验证机制。

它不是一张空洞的愿景图,而是一个有工程细节、有学术支撑的完整路线图。

其实在今年 4 月,团队就率先提出了针对 Agent 自进化的评测基准 EvoAgentBench,当月在 Hugging Face 同类 benchmark 上下载量第一。

这是一套用于衡量智能体从既往执行中提取并迁移能力效果的评测方法,为技能沉淀、脚手架迭代和模型优化提供统一、可比较的验证框架。

结合三篇论文从技术、脚手架到模型权重的系统性探索,EverMind 已将自进化能力建设由方法研究延伸至评测体系,形成更完整的技术闭环。

从脚手架,到技能,再到模型权重;从任务层,到脚手架层、模型层,再到元改进层,EverMind正在将自进化能力建设逐步延伸。

三篇论文,也由此构成了一条从不同层面探索 AI 自进化的完整路径。

而这,正是 EverMind 交出的 AI 全栈自进化首份答卷。

广告声明:文内含有的对外跳转链接(包括但不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,PChome科技所有文章均包含本声明。

相关文章

关键词:数码中心

大家在看

已经到底了