AI自进化的现实路径
前OpenAI安全副总裁、Thinking Machines Lab联创翁荔发布新博客《Harness Engineering for Self-Improvement》,讨论AI自进化,提出一条现实路径:不一定从模型直接改写自己的权重开始,而是先从Harness开始。Harness可简单理解为模型外部的运行系统,决定模型如何调用工具、管理上下文等。DeepSeek研究员崔添翼转发并画重点,认为Harness方向的自进化和模型方向的自进化一样,都是非常可能出成果的方向,还提出Skill是Harness自进化中比较初级的一种形式,即从prompt层面进行自进化。
核心概念与自进化趋势
博客讨论的核心概念是RSI(Recursive Self-Improvement),递归自我改进。翁荔把这个问题拆得更工程化,认为在今天的AI系统里,自我改进未必只意味着模型直接改写自己的权重,也可能意味着改进训练流程等。而Harness是部署系统里最关键的一层。翁荔梳理相关研究,发现优化对象正从上下文、工作流深入到Harness本身,递进链条是:prompt→structured context→workflow→harness code→optimizer code。
优化的不同层次
第一层是Context Engineering,翁荔提到ACE和MCE两个代表性工作。ACE把上下文当成会持续更新的 "操作手册",靠三个角色配合;MCE更进一步,把管理上下文和具体内容拆成两层优化。第二层是Workflow Design,翁荔举例AI Scientist、ADAS、AFlow,说明优化对象从单个prompt到整个Agent如何组织行动的递进。第三层是Self-Improving Harness,模型开始分析Harness的不足并提出修改。翁荔重点提到Self-Harness工作,其循环包括Weakness Mining、Harness Proposal、Proposal Validation。此外,翁荔还提到Evolutionary Search,把Harness变成可搜索对象,她特别提到DGM,实验显示其进化出来的agent效果惊人。
Harness的发展与瓶颈
翁荔认为Harness和模型训练互相强化,长期看,Harness的很多改进可能被 "内化"进模型本身。但实现RSI存在瓶颈,如评估器太弱太模糊、上下文和记忆的生命周期问题、负面结果容易被忽视、多样性坍缩、Reward hacking、长期健康和短期成功之间的矛盾等。翁荔认为人类不会被踢出循环,而是要在合适的时机和抽象层级上提供监督。现在,Harness已成为行业不可忽略的变量,同一个模型在不同Harness里可能表现出不同能力,"AI自进化更现实的工程入口是什么"将是下一阶段讨论的重点。