news 2026/7/10 21:45:36

前OpenAI安全副总裁翁荔新博客:AI自进化或先从Harness开始,揭示现实路径与瓶颈

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
前OpenAI安全副总裁翁荔新博客:AI自进化或先从Harness开始,揭示现实路径与瓶颈

AI自进化的现实路径

前OpenAI安全副总裁、Thinking Machines Lab联创翁荔发布新博客《Harness Engineering for Self-Improvement》,讨论AI自进化,提出一条现实路径:不一定从模型直接改写自己的权重开始,而是先从Harness开始。Harness可简单理解为模型外部的运行系统,决定模型如何调用工具、管理上下文等。DeepSeek研究员崔添翼转发并画重点,认为Harness方向的自进化和模型方向的自进化一样,都是非常可能出成果的方向,还提出Skill是Harness自进化中比较初级的一种形式,即从prompt层面进行自进化。

核心概念与自进化趋势

博客讨论的核心概念是RSI(Recursive Self-Improvement),递归自我改进。翁荔把这个问题拆得更工程化,认为在今天的AI系统里,自我改进未必只意味着模型直接改写自己的权重,也可能意味着改进训练流程等。而Harness是部署系统里最关键的一层。翁荔梳理相关研究,发现优化对象正从上下文、工作流深入到Harness本身,递进链条是:prompt→structured context→workflow→harness code→optimizer code。

优化的不同层次

第一层是Context Engineering,翁荔提到ACE和MCE两个代表性工作。ACE把上下文当成会持续更新的 "操作手册",靠三个角色配合;MCE更进一步,把管理上下文和具体内容拆成两层优化。第二层是Workflow Design,翁荔举例AI Scientist、ADAS、AFlow,说明优化对象从单个prompt到整个Agent如何组织行动的递进。第三层是Self-Improving Harness,模型开始分析Harness的不足并提出修改。翁荔重点提到Self-Harness工作,其循环包括Weakness Mining、Harness Proposal、Proposal Validation。此外,翁荔还提到Evolutionary Search,把Harness变成可搜索对象,她特别提到DGM,实验显示其进化出来的agent效果惊人。

Harness的发展与瓶颈

翁荔认为Harness和模型训练互相强化,长期看,Harness的很多改进可能被 "内化"进模型本身。但实现RSI存在瓶颈,如评估器太弱太模糊、上下文和记忆的生命周期问题、负面结果容易被忽视、多样性坍缩、Reward hacking、长期健康和短期成功之间的矛盾等。翁荔认为人类不会被踢出循环,而是要在合适的时机和抽象层级上提供监督。现在,Harness已成为行业不可忽略的变量,同一个模型在不同Harness里可能表现出不同能力,"AI自进化更现实的工程入口是什么"将是下一阶段讨论的重点。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/10 21:45:25

Oracle EBS 12.2 审计追踪

前言​ 当前文章主要介绍Oracle EBS 12.2 的部分审计追踪功能,主要用于查询用户登录时间、用户账号、使用的职责、使用的功能、IP地址等信息。后续将持续完善审计其它功能。 前提条件 必须开启OAM Generic Collection Service: 并发管理器(默认不开启&am…

作者头像 李华
网站建设 2026/7/10 21:43:05

AI 指标异动分析:先判断是业务事件还是数据 bug

AI 指标异动分析:先判断是业务事件还是数据 bug 一、指标异动:数据分析师的"急诊时刻" 半夜 11 点,监控报警弹出来:日活暴跌 40%。你的第一反应是什么?是赶紧找原因还是先冷静判断——这到底是业务出了问题…

作者头像 李华
网站建设 2026/7/10 21:42:35

ModelScope命令行工具终极实战:从零到精通的AI模型管理指南

ModelScope命令行工具终极实战:从零到精通的AI模型管理指南 【免费下载链接】modelscope ModelScope: bring the notion of Model-as-a-Service to life. 项目地址: https://gitcode.com/GitHub_Trending/mo/modelscope 你是否曾为管理数百个AI模型而烦恼&am…

作者头像 李华
网站建设 2026/7/10 21:42:23

MySQL学习第四天

第一部分 1、MySQL数值类型 1.1数值类型 数值类型分为整数型和浮点数类型 int 整数 bigint 大整数 decimal 浮点数 1.2日期类型 1.3字符串类型 char 和varchar数据类型区别: char(长度)是定长字符串类型,括号内写多少长度…

作者头像 李华
网站建设 2026/7/10 21:41:40

2026.7.8:2026年7月最新安装教程之docker compose 安装最新版neo4j

2026年7月最新安装教程之docker compose 安装最新版neo4j 一、Neo4j和图数据库简介 neo4j是基于Java语言编写图形数据库。图是一组节点和连接这些节点的关系。图形数据库也被称为图形数据库管理系统或GDBMS。 Neo4j的是一种流行的图形数据库。 其他的图形数据库是Oracle NoSQL…

作者头像 李华