★ FEATURED ARTICLE 论文上海交大Theseus Labs等arXiv:2609.11873核心贡献提出B0‑L5的RSI递归自我改进自治等级框架区分“只是调输出”和真正的递归元改进梳理四大应用领域、海内外工业界实践、现存瓶颈附带开源awesome‑rsi项目仓库。关键结论目前绝大多数RSI原型停留在L1‑L4真正的L5元递归自我改进只有少量受限实验室原型没有通用、稳定的真实系统区分结构性L5可以修改改进流程和有效L5修改后确实产出更强后继模型后者仍是开放难题。一、核心概念辨析很多人把RSI和持续学习、AutoML、普通Agent混为一谈论文明确区分RSI递归自我改进定义AI利用交互反馈对自身产生持久变更变更会反过来修改后续自我改进的生成、评估、选择、合并机制。不只是改任务输出而是修改“改进自身的那套流程”。B0非RSI基准层会话内迭代仅在当前任务内反复修改输出任务结束全部丢弃不保存任何系统状态。例Self‑Refine、Tree‑of‑Thought。只是输出优化不属于RSI。L1~L5五层自治等级核心框架|等级 | 名称 | 核心含义 | 人类保留控制权 | 典型例子 ||—|—|—|—|—||B0 | In‑Task迭代 | 仅优化单次任务输出无持久状态保存 | 全部流程由人定义 | Self‑Refine ||L1 | 改进执行自治 | AI执行人类写好的改进流程结果持久保存复用做什么、怎么做、评判标准全部是人定 | 目标、策略、验收标准全部人类指定 | FineWeb‑Edu数据过滤流水线 ||L2 | 改进策略自治 | 目标、评判标准固定AI自主诊断缺陷自主选择用什么方案去改进| 目标、评价指标由人类定 | Promptbreeder、ADAS智能体设计搜索 ||L3 | 学习经验获取自治 | AI根据自身能力短板自主决定接下来该获取/生成哪些训练经验、任务| 大目标、顶层规则人类保留 | Voyager、SIMA2自适应课程生成 ||L4 | 部署环境适配自治 | AI利用真实部署环境的反馈把经验沉淀为记忆、技能、工具、线束代码变更持久生效 | 访问权限、发布上线、验收规则人类管控 | Metis、PANDO从线上交互提炼可复用技能库 ||L5 | 递归元改进 Meta‑Improvement | AI修改生成后续改进的底层机制改进器、评估器、研究策略修改后的机制继续用于下一轮迭代真正意义上的递归自我改进 | 顶层使命、安全边界、最终上线决策权仍归人类 | STOP、Gödel Agent、A‑Evolve‑Training仅受限原型 |两个关键概念结构性L5代码上确实做到修改改进机制并在下一轮复用有效L5同等算力预算下修改后的机制稳定产出更强的后继系统✅现有论文只做到少量结构性L5有效L5尚未被证明。和邻近范式对比持续学习Continual Learning更新模型知识但改进规则固定不变达不到RSIAutoML自动调参搜架构但搜索目标、评价函数是人预先写死Agentic AI可以做多步工具调用但Agent自身的改进流程往往是人类硬编码。二、四大应用领域RSI现状反馈条件决定RSI难度不同领域反馈质量、成本不一样直接决定能走到哪一层软件工程最领先代码可以执行、单元测试快速验证可回滚。已经大量L2‑L4L5仅有边界原型。代表Darwin‑Gödel‑Machine、Self‑Harness。具身智能机器人、虚拟环境依赖仿真环境真实世界试错昂贵、不安全大多L2‑L3真实物理世界L4很难。代表Voyager、POET。科学发现AI for Science实验成本高结果归因困难大多L1‑L2很难拿到可靠闭环反馈。医疗健康最难反馈延迟、样本异质性高人命风险基本停留在L1‑L2几乎没有L4以上真实落地。核心洞察可快速执行、可测试、可回滚的环境更容易实现高等级RSI现实物理、高风险领域推进极慢。三、工业界实践论文调研的海内外项目Theseus Labs上交环境‑数据‑模型协同进化构建可复现的Workspace仿真环境暴露模型能力缺口自动生成训练数据L3‑L4原型。飞书Lark企业级RSI以高质量数据基座为核心构建企业知识图谱自动化故障归因人类保留标准审核权。小红书双时间尺度RSI。快循环在线实时更新用户记忆慢循环收集hard case后做后训练更新模型用于推荐系统。Humanlaya面向数据质量保障的RSI内外双层循环从交付失败案例迭代质量检查规则。ModelBestForge工程范式AI自动从零实现训练框架、算子内核大量工程自动化L2。腾讯混元HyraExperience Bank经验库保存完整实验工件迭代评估器本身。Agent‑Native Research Lab提出ARA可执行科研工件替代传统论文保存失败实验轨迹供后继Agent继承复用。Frontis.AIME‑WE‑MA三层架构数百个企业专用智能体跨任务元改进。工业界现状大多落地在L1‑L4线束层Harness改进改prompt、工作流、技能库、记忆极少触碰修改底层模型权重真正修改“改进流程”的L5只在小规模实验。四、七大核心技术瓶颈论文重点挑战跨组件诊断难题失败很难定位到底是数据、工具、评估器还是模型的问题错误会在迭代链条继承放大。学习者自适应经验获取AI自主生成训练任务容易收敛到简单任务产生无效、误导性训练样本。持久状态管理技能/记忆库无限膨胀Library‑Drift库漂移旧技能失效、检索退化更新之后出现能力遗忘。领域差异化反馈约束科学、医疗没有廉价可回滚测试很难验证改进有效性。元层级验证难题L5最大卡点当AI同时修改“求解器”和“评估评判器”分数会失真评判器被优化目标“钻空子”。长周期评估缺失缺少标准Benchmark区分“只是当前任务变强” vs “改进生成后继的能力”。现有评测大多只测单轮任务性能不测多代递归增益。人类‑AI协作成本即使是RSI系统依然需要大量人力做验证、回滚、风险审查不能做到零人力。五、未来研究方向可控的组件消融、冻结实验定位失败根因设计自适应经验采样避免训练任务退化工件版本管理给每一次改进附带证据、适用条件支持回滚隔离独立锚定评估器防止评判器和被改进系统一起漂移开发面向多代迭代的RSI专用基准SEA‑Eval / SEAGym可复现的继承基础设施完整保存成功、失败实验轨迹。六、论文关键警示非常重要结合之前那篇智能爆炸论文L5 ≠ 智能爆炸就算实现结构性L5元改进也不等于一定出现指数加速还取决于r科研回报系数、算力、数据、收益递减等约束区分「任务性能提升」和「改进下一代系统的能力提升」绝大多数现有工作只证明前者没有证明后者安全风险错误、漏洞会随递归迭代一代代继承一旦进入L5错误会修改改进流程后续迭代全部被污染必须有版本回滚、隔离沙箱、独立外部锚定评判。开源项目awesome‑rsigithub.com/theseus‑labs‑rsi/awesome‑rsi汇总论文、原型、benchmark。重要现实警示智能爆炸结构性L5≠必然智能爆炸受r、算力、收益递减约束任务性能提升≠制造后继系统能力提升递归继承漏洞沙箱、回滚、外部独立校验开源资源awesome-rsi github仓库未来研究方向组件消融、冻结实验定位故障根因自适应安全经验采样策略工件版本管理、适用条件、回滚机制独立锚定评估器防止评判器漂移RSI专用Benchmark SEA-Eval/SEAGym可复现跨代继承实验基础设施现存七大核心瓶颈跨组件故障诊断难错误继承放大自主经验生成退化产出无效样本持久状态库漂移膨胀、能力遗忘各领域反馈成本差异巨大L5元层级评估器求解器漂移、奖励钻空子缺少多代递归长周期评测基准RSI仍需大量人工审核、回滚无法零人力工业界实践案例Theseus Labs环境-数据-模型协同进化 L3-L4飞书Lark企业RSI高质量数据基座小红书双时间尺度RSI推荐Humanlaya数据质量内外双循环ModelBestAI工程自动化Forge范式腾讯混元HyraExperienceBank经验库Agent-Native LabARA可执行科研工件Frontis.AIME-WE-MA跨任务元改进四大应用领域现状软件工程反馈廉价可回滚最高L4少量L5原型具身智能仿真效果好真实物理世界推进难AI for Science实验成本高大多L1-L2医疗健康高风险反馈滞后停留在L1-L2核心定义与概念RSI递归自我改进•核心持久变更自身变更反作用后续改进区分持续学习、AutoML、普通Agent两类L5结构性L5、有效L5未实现B0-L5自治等级体系B0会话迭代L1改进执行自治L2改进策略自治L3经验获取自治L4环境适配自治L5递归元改进RSI递归自我改进
阅读完成 · 觉得有帮助？
