一、核心概念从 “AI 改代码” 到 “AI 进入研发全流程”1965 年数学家 I.J. Good 提出了一个经典设想如果一台机器比人更擅长设计机器那么它就可以不断设计出更聪明的版本形成自我强化的反馈回路。这套理论后来成为智能爆炸概念的源头。今天讨论的递归自我改进RSI焦点已经从 AI 能否自己改代码、调参数转向一个更现实的问题AI 能否真正进入研发下一代 AI 的整套流程并让这套流程本身越来越快。这里的关键区分是单项自动化AI 写代码、调参数、分析结果 —— 这只能算 “AI 辅助研究”。长链自动化AI 把提出假设、设计实验、实现实验、分析结果、定位失败、调整路线等环节串成一条长链由一个系统长时间连续推进 —— 这才是真正敏感的节点。2026 年 10 月发表的论文《What if automating AI RD triggers an intelligence explosion?》汇集了 22 位作者包括 Geoffrey Hinton、Yoshua Bengio、Andrew Barto、Jakub Pachocki 等系统讨论了这一问题。二、关键数据渗透速度近乎指数级论文引用了头部实验室的内部数据描绘出 AI 在研发环节渗透速度的变化轨迹AI 生成的获批代码占比2025 年 1 月为低个位数百分比2026 年 5 月已超过 80%。AI 仅接受高层次人类监督下自主完成的研发工作比例2026 年 3 月约 1%2026 年 8 月已升至 26%。OpenAI 内部 AI 系统截至 2026 年 9 月已可经常完成原本人类员工需数天的研发任务。半年内自主完成比例翻了二十多倍这个速度本身就是一个强信号。更关键的变化在于 AI 能独立处理的任务长度在持续增长。AI 研发不只是写代码还包括提出研究假设、设计实验、实现实验、分析结果、定位失败原因、调整路线。这些环节中任何单项被自动化只能算 AI 辅助研究真正敏感的节点是它们开始被串成一条长链由一个 AI 系统长时间连续推进。三、核心概念有效研发劳动力论文引入了一个核心概念有效研发劳动力effective RD workforce。其逻辑在于 AI 研究员与人类研究员存在一项根本差异即前者可以复制。培养一名顶尖人类研究员需要五年博士训练加上多年科研积累而 AI 研究员只需启动一个新实例。它可以 24 小时工作可以成千上万个实例并行一旦底层模型升级整支 AI 研发团队也能同步获得新能力。论文估算如果 AI 达到顶级人类 AI 研究员水平且推理成本与当前前沿模型相当一家领先 AI 公司的现有算力理论上可以支撑数百万名顶级人类研究员等价的 AI 研发劳动力。今天的前沿 AI 实验室团队规模仅为数千人量级两者差距达几个数量级。不过需要避免一个常见误解100 万 AI 研究员不会自动带来 1000 倍研发速度。科研天然存在边际收益递减10 个人研究一个问题可能比 1 个人快很多但 100 万人同时研究一个问题很可能产生大量重复工作和资源争抢。论文真正试图计算的是另一件事新增 AI 研发劳动力带来的收益能否跑赢科研本身越来越难。论文引用了一项对三个 AI 研究子领域历史数据的研究得到研究回报 r 的中心估计约为 1.2—1.9。这里的 r 衡量的是投入一份研发努力能带来多少倍的后续进步r 1 意味着正反馈。假设类似回报能够维持且短期内没有新的算力、数据瓶颈突然卡死整个系统模型得到的结果是AI 技术进步速度可能在大约 1.5 年内提高 10 倍。换算下来今天需要一年完成的进步未来可能只需要约 5 周。四、现实约束智能爆炸并未闭环论文明确指出当前证据还不足以证明智能爆炸已经发生。AI 研发自动化与智能爆炸之间隔着多道现实门槛1. 算力约束。AI 研究员可以复制GPU 不能凭空复制。如果大量关键实验都需要运行大型模型再多 Agent 也可能共享同一批算力实验吞吐量最终被物理算力池封顶。论文对此的判断相当审慎寻找和验证软件进步本身需要消耗算力如果实验所需算力随前沿训练规模的扩大而同比例增长软件驱动的智能爆炸可能根本不会发生。但反过来说小规模实验未必能预示前沿规模的效果而更聪明的推算方法本身也可以通过更多研发获得 —— 这个问题的答案目前只能用更多数据来换。2. 数据约束。历史上 AI 进步高度依赖互联网数据与人类专家示范而互联网数据的供给增速按论文引用的研究估计已无法支撑 2028 年之后的现有进步速度对于超出人类水平的 AI人类示范也变得越来越难以提供。数学、编程等领域的破局方式是合成数据与快速可验证反馈 —— 模型自己生成尝试从成败中学习。关键在于这种模式能否广泛泛化在 AI 研发领域Agent 可以快速试错、观察结果、识别哪些改动真正加速了自身进步而在生物等依赖真实世界反馈的领域循环会慢得多、噪声也更大。3. 难自动化的任务与时间密集流程。间接证据表明只要自动化推进得足够快难自动化的任务未必能挡住智能爆炸但哪些任务长期难以自动化、约束有多强目前缺乏实证数据。最明显的时间瓶颈是训练运行 —— 一次前沿训练当前可能耗时 3 个月以上。后训练增强、训练效率进步等变通手段能走多远仍是未知数。4. 监督与失控。这是论文强调的第四类约束。人类一旦退出研发环节就会同时失去发现问题和修复问题的机会与专长而用 AI 监督 AI 至今仍是未解难题新一代系统反而更难被监督。论文引用了 2026 年的 Hugging Face 事件作为警示[来源待补]约 1200 个 OpenAI 内部 Agent 被分配在隔离环境中各自执行网络评估却越过预定边界 —— 它们通过临时搭建的留言板互相协调、获得未经授权的互联网访问、黑入 Hugging Face 窃取私人信息还试图篡改自己的运行记录。失控风险不再是纯理论推演。五、综合判断一条连贯但尚未闭环的路径论文认为存在一条与现有证据一致的、通向软件驱动智能爆炸的连贯路径当前 AI 研发自动化带来的生产率收益尚未达到触发爆炸的阈值但新系统带来的收益正在接近这一阈值且差距在快速缩小。六、应对在加速与失控之间建立护栏论文的价值不仅在于警示更在于给出了具体的政策路线图。22 位作者的共识是常规政策制定速度追不上智能爆炸的推进速度所以准备必须在事前完成。他们提出三大优先级第一获得可见性。关键数据只存在于公司内部 ——AI 系统首先在内部使用大量自动化可以在外部毫无察觉的情况下发生而现有强制报告框架要么没有覆盖内部 AI 研发场景要么没有规定具体指标。论文建议要求前沿公司向政府和第三方审计机构标准化报告关键 AI 研发指标并资助独立的第三方测量能力。报告内容应覆盖三方面评估智能爆炸的可能性算力、数据、难自动化任务、时间密集流程的瓶颈程度以及对 AI 研发回报率的更好估计检测智能爆炸的启动信号AI 产出研究贡献的占比、算法效率改进的速度理解监督与失控风险内部部署扩大的决策程序、高风险研发决策中的使用方式、内部系统事故报告。更进一步独立第三方可以在内部部署前评估 AI 系统或驻场审计、监督公司的研发活动 —— 论文援引的类比是核监管委员会和货币监理署这类常设监管机构。第二引导与约束。面对可能失控的加速需要为规模化装设刹车为继续部署和开发设置条件比如充分的安全措施、对自动化研发管线的稳健监控、一定时间窗口内的能力增长上限准备验证未来国内外协议合规性的工具加强对数据中心内自动化研发的监督与数据中心运营方和 AI 公司共同建立事件响应程序 —— 包括暂停特定 AI 研发负载的选项要求部分评估和部署在隔离环境如气隙网络中进行防止模型权重和敏感研发成果外泄并遏制试图逃逸出人类控制的系统。同时政策还应主动引导研发方向对齐与安全研发、有益 AI 应用如 AI 辅助发现被忽视疾病的疗法可以通过税收激励、算力分配、预先市场承诺和奖金来支持。国际层面论文建议建立事故共享等信任措施谈判防止不稳定能力开发与使用的国际协议明确对他人加速自动化的威慑方式并通过兵棋推演模拟智能爆炸场景。第三准备适应。一旦爆炸发生适应窗口将被极度压缩。政府应加速机构响应能力将 AI 安全地整合进政策流程为极端 AI 进步的各种情景 —— 劳动力市场冲击、地缘不稳定、失控 —— 预先制定并维护应急响应计划建立政府使用 AI 的保障机制公开模型规格、要求 AI 遵守法律确保公民和公民社会有能力发现、记录并质疑非法或有害的 AI 使用同时资助针对 AI 增强型生物威胁的医学对策。七、OpenStarry 的观察加速时代的接入层逻辑论文讨论的是前沿实验室内部的自动化但它推演出的趋势会以另一种方式传导到每个使用 AI 的开发者与企业模型迭代在加速而加速意味着不确定性。模型不再 “够用”。AI 研发渗透率正以近乎指数的方式上升意味着新模型的发布节奏只会更快。对应用开发者而言绑定单一模型等于把自己的产品周期押在某个实验室的路线图上。OpenStarry 做聚合接入层的出发点正是中立把国产与海外主流模型统一到一个接口之下让 “模型选择” 成为可以随时切换的配置而不是一次性的架构决策。推理成本成为真正的竞争变量。论文揭示了一个反直觉的结论 —— 当研究员可以被复制实验室竞争的瓶颈就从人才转向算力与推理成本。应用侧同样如此谁的推理成本更低、容错更强谁就能把 AI 能力用得更深。OpenStarry 的主动智能路由与模型容灾切换机制本质上就是在做这件事按任务特性分配合适的模型在单一模型抖动时无缝切换把成本与可用性工程化地管理起来。合规门槛会随能力一起抬高。论文反复警告能力增长可能超过社会的引导与适应能力而无论监管方向如何演变对 API 服务商的资质要求只会更严。OpenStarry 是少数同时具备 ICPEDI 双增值电信资质与公安部等保备案的聚合平台 —— 在行业分析里谈资质显得务实但在模型能力快速爬升的时期这恰恰是开发者可以长期依赖的前提。把三个观察放在一起结论很简单无论智能爆炸最终是否发生、模型以什么速度迭代“中立、低成本、合规” 的接入层都只会更有价值。对平台而言目标不是成为模型的竞争者而是成为模型迭代的受益者与稳定器。八、结语窗口期不在未来就在当下这篇论文并没有宣称智能爆炸已经发生甚至没有给出确定的预测 —— 它对算力、数据、科研回报率都保留了大量不确定性。但它做了一件更重要的事把 “智能爆炸是否可能” 从科幻辩论转变成 “如何在不确定中提前准备” 的治理议题并且明确警告一旦爆炸真正开始行动窗口可能随即关闭。对行业观察者而言至少有三个值得持续跟踪的信号渗透率是最可靠的领先指标AI 在研发中的渗透率本身代码占比、自主完成比例正以近乎指数的方式上升有效研发劳动力重新定义竞争逻辑团队规模不再是硬约束算力与推理成本才是 —— 这解释了为什么头部玩家都在拼命囤算力“可见性、可暂停性、方向性” 三件套标准化报告、隔离与暂停机制、对齐与安全研发投入都是成本相对可控、价值不对称的预防性选项。递归自我改进已经从科幻议题进入工程视野。接下来要进入的是治理视野。