整理 | 苏宓出品 | CSDNIDCSDNnewsAI 究竟会给人类带来怎样的未来最近Anthropic CEO Dario Amodei 罕见地在 X 上连续发文正面回应了一场围绕 AI 监管、开放权重模型以及“AI 到底应该向公众传递什么信息”的争论。之所以发文他回应的是业界知名投资人 Gavin Baker 对他的公开批评。不久前美国对冲基金 Atreides Management 的管理合伙人兼首席投资官 Gavin Baker 在 All-In 播客以及 X 上连续发声将矛头直接指向 Dario Amodei。Gavin Baker 认为Dario Amodei 长期强调 AI 可能带来的安全风险以及 AI 可能造成经济权力高度集中并因此主张对前沿 AI 实施监管。这种持续强调风险的做法正在加剧美国社会对 AI 的负面情绪。在 Gavin Baker 看来如果 AI 确实存在潜在风险那么解决问题并不只有“通过监管把 AI 集中到少数公司和政府手中”这一种方式也可以选择让 AI 更广泛地分布出去。他因此指出Dario Amodei 所支持的监管思路实际上是在选择“集中 AI”而自己更倾向于通过开放模型等方式让 AI 的能力尽可能广泛地掌握在更多人手中。更让 Gavin Baker 不满的是他认为 Dario Amodei 的这套叙事不仅没有推动其希望看到的监管落地反而正在产生意料之外的后果——一边没有真正推动严格 AI 监管一边却让反 AI、反数据中心的声音找到了更多可以利用的素材。因此Gavin Baker 直言Dario Amodei 在 AI 监管问题上的观点已经“输掉了这场争论”。而随着 Anthropic 逐渐成为全球最重要的 AI 公司之一他认为 Amodei 更应该调整自己的公开表达积极为 AI 行业辩护而不是继续强调 AI 可能带来的风险。对于此番言论Dario Amodei 显然不认同。他罕见地花了相当长的篇幅回应 Gavin Baker而且并没有简单地重复 Anthropic 过去的安全论调而是把问题拆成了两个部分AI 监管到底会不会导致权力更加集中以及 AI 为什么正在遭遇越来越严重的公众不信任。而这两个问题恰恰也是今天 AI 行业争议最大的两个问题。“监管权力集中”Dario Amodei这是错误首先Dario Amodei 不认同一种越来越流行的观点要么通过监管把 AI 权力集中到少数公司和政府手里要么把 AI 广泛分配出去。在他看来这其实是一个“错误的二选一”。他指出在硅谷有一种约定俗成的说法即“监管 监管俘获 权力集中”。但在 Dario Amodei 看来这种理解把现实世界想得过于简单。在硅谷之外很多人对监管的理解恰恰相反监管的作用就是限制企业权力让普通人获得更多保护。Dario Amodei 并没有完全认同这种说法但他认为真正重要的是看监管具体设计成什么样。他特别强调了一个经常被忽略的问题公平、客观的制度性程序本身也可以成为一种去中心化力量。他举了一个简单的例子。正式的司法体系有时可能显得僵化、精英化但相比“暴民式正义”它在保护弱势群体权利方面显然更加可靠。同样的道理也可以放到 AI 上。在 Dario Amodei 看来一个设计得足够好的制度可以把权力交给规则和程序而不是交给某几个具体的人或公司。Anthropic 为什么支持监管回应中Dario Amodei 试图解释为什么 Anthropic 明明是一家前沿 AI 公司却一直支持部分 AI 监管政策。Dario Amodei 的说法是Anthropic 一直在非常谨慎地设计自己的政策建议目标并不是让所有 AI 公司一起承担更多监管成本而是尽可能让监管放慢前沿 AI 巨头的速度同时给规模更小的竞争者留下追赶空间。他以加州 SB53 为例。Anthropic 支持这一法案而该法案对规模较小的公司设置了豁免门槛。Amodei 还提到了此前争议极大的 SB1047表示 Anthropic 当时对它持保留态度其中一个重要原因正是相关门槛设置得过低。在他看来如果监管规则主要约束已经处于最前沿的大型 AI 公司而不是所有开发者一视同仁那么监管反而可能帮助后来者竞争。他还提到了 Anthropic 此前在 CAISI 和白宫推动的模型测试机制。按照他的理解前沿模型应该接受比非前沿模型更加严格的测试而这实际上会给挑战者带来一定优势。同样的逻辑也存在于“Pacing the Frontier”倡议中控制最先进模型的发展速度但不要限制那些正在追赶前沿的公司和模型。换句话说Amodei 认为监管并不一定意味着保护巨头也可以反过来成为限制巨头、帮助挑战者的工具。不过他也并没有否认 AI 行业存在权力集中的问题。恰恰相反他认为AI 从技术结构上来说本身就是一种容易导致权力集中的技术。而造成这一点的原因并不是监管而是 AI 的规模定律。模型越强通常需要越多的计算资源、芯片、数据以及资金。因此随着模型能力不断提升开发最先进 AI 的门槛也在不断提高。在 Dario Amodei 看来这意味着即使完全没有监管AI 也并不会自然地走向权力分散。开放权重模型确实能够缓解一部分问题但同样不是完整答案。因为开放权重只是把权力集中从“拥有模型的人”转移到了“拥有最多算力和芯片的人”。而这些人依然很可能是今天的前沿 AI 实验室以及大型硬件供应商。所以在 Dario Amodei 的逻辑里真正需要寻找的并不是“监管还是开放”二选一而是一套能够同时做到三件事情的规则一是控制 AI 在网络安全、生物安全和 AI 对齐方面可能产生的风险二是从制度层面限制前沿 AI 公司的权力三是为开放权重模型留下空间同时处理开放模型自身带来的风险。这也是他为什么认为“监管必然导致权力集中”的说法过于简单。有意思的是Dario Amodei 还明确表示他并不认为过去几个月发生的事情没有朝着自己希望看到的监管方向发展。“据报道特朗普政府正在采取的方式——对前沿模型进行部署前测试同时在开放权重模型接近前沿水平时对其进行测试——是我非常支持的方向。当然具体细节仍然需要进一步确认。我同样支持 Demis Hassabis 关于建立一个类似 FINRA 的机构的想法。而这与六个月前的情况形成了鲜明对比。当时行业内大多数人还在推动全面禁止州层面的 AI 监管与此同时联邦层面似乎也没有一个明确的监管方案。”Dario Amodei我没有一直在“唱衰”AI如果说监管问题是第一层争论那么第二层争论其实更加直接Dario Amodei 是不是一直在“唱衰”AIGavin Baker 的批评正是从这里开始。在回应中Dario Amodei 明确否认了这一点——“关于围绕 AI 的舆论表达方式。我不同意‘我的表态过度偏向负面’这一说法。”他认为自己在 AI 风险和 AI 潜在收益之间其实一直保持着相对平衡。他分别写过重要文章讨论 AI 的风险和收益即便在接受采访时谈论 AI 风险也会同时强调 AI 可能带来的巨大好处以及如何解决这些风险。至于为什么社交媒体上经常看到自己的视频显得格外“悲观”他的解释也很直接因为社交媒体更喜欢那些能够获得点击的短视频而谈论风险的片段显然更容易传播。Dario Amodei 特别提到了自己此前写下的《Machines of Loving Grace》。他表示自己写这篇文章的一个重要原因恰恰是因为当时觉得 AI 行业没有给出足够令人振奋的未来图景。这篇文章的大部分内容并不是在讨论 AI 会带来什么灾难而是在讨论 AI 如何改变生物学和医学。Dario Amodei 甚至提出过一个非常激进的判断未来 5 到 10 年人类可能治愈绝大多数疾病。https://darioamodei.com/essay/machines-of-loving-grace对于普通人来说这听起来可能非常疯狂甚至对于生物学家来说也一样——Dario Amodei 自己过去就是一名生物学家。他还提到自己最近关于 AI 政策的文章《Policy on the AI Exponential》其中专门讨论如何简化 FDA 流程避免未来大量由 AI 加速研发的药物因为监管流程过慢而无法及时进入市场。而这里还有一个非常个人化的原因。Dario Amodei 提到他的父亲在几年前因丙型肝炎去世了而就在那之后没几年直接抗病毒药物便问世了。“这种药物可以治愈 95% 的患者很可能当时也能够治好我的父亲。”“我确实同意公众目前对 AI 持有负面看法而且这是一个很大的问题。但我不认为这主要是因为我或者其他 AI 领域的领导者不断警告 AI 所存在的风险。我认为这从根本上说是一场信任危机。普通人并不信任企业、政府或者科技行业总觉得我们又在琢磨什么新的办法来坑他们。造成这种情况的原因可以追溯到几十年前而 AI 只是这一问题最新的一种表现形式。我不认为一场包装得光鲜亮丽、刻意强调积极面的营销活动——有些人甚至建议 Anthropic 这么做——能够重新赢得这种信任。到了今天再说‘AI 将治愈癌症’与其说令人振奋不如说已经成了一句老生常谈。大多数人甚至会觉得这是一种欺骗。”Dario Amodei 说道。Dario Amodei 认为真正能够重新赢得信任的不是告诉大家 AI 会治愈癌症而是真的把癌症治好。“我们还没有兑现那些宏大承诺”Dario Amodei 甚至主动给出了他认为目前对 Anthropic、乃至整个 AI 行业最准确的一项批评——AI 公司还没有兑现自己那些“让世界变得更好”的宏大承诺。在他看来这才是公众真正应该批评 AI 公司的地方。Dario Amodei 也直面 Gavin Baker 批评回应道“这是我们自己的责任。我认为你真正应该批评的是这一点而不是一直纠结于我们的舆论表达和营销方式。”而 Anthropic 目前正在努力改变这一点。Dario Amodei 称其公司正在快速增加对生物学和医学领域的投入希望未来几年能够取得真正具有影响力的成果同时未来几个月也可能出现一些早期的突破迹象。但在真正取得成果之前Dario Amodei 不愿意继续做出更多空洞承诺。他认为在这个阶段自己仍然应该坦诚地谈论 AI 的真实风险以及如何解决这些风险。因为在他看来诚实本身就是正确的事情。而从公众信任的角度来看坦诚承认风险也不会比刻意回避风险更糟糕甚至可能更好——毕竟公众本身就已经意识到这些风险确实存在。这其实是一场更大的争论Dario Amodei 这次回应最有意思的地方也许并不是他究竟支持哪一项监管政策而是他实际上把 AI 行业目前的矛盾摆到了台面上。一边是以 Meta、部分投资人以及大量开源社区支持者为代表的观点AI 应该尽可能广泛分配开放权重能够降低少数公司对 AI 的控制。另一边则是 Anthropic 这样的前沿实验室所强调的问题如果模型能力越来越强完全开放的权重同样可能带来网络攻击、生物安全以及失控等风险。而 Dario Amodei 这一次试图提出的第三种答案是开放可以存在监管也可以存在。真正的问题不是二选一而是规则究竟怎么设计。但问题也恰恰在这里。因为 Dario Amodei 所说的“合理监管”到底能不能真的做到既限制巨头、又保护小公司这恐怕才是整个争论最难回答的问题。理论上针对最强模型的严格监管可以限制头部公司的领先优势让后来者获得追赶机会。但现实中大公司拥有更多资金、算力、人才、法律团队以及政策资源同样更有能力承担复杂的合规成本。一旦监管要求越来越高最终会不会变成只有巨头才玩得起的游戏这也是 Gavin Baker 等人真正担心的地方。所以AI 最终会走向更加开放的未来还是在监管与算力的双重作用下进一步向少数巨头集中或许还没有答案。这场争论究竟谁更接近真相最终还是要看 AI 接下来会走向怎样的现实。2026 奇点智能大会11 月 20-21 日·北京。奇点智能研究院联合 CSDN把两场技术大会放在了同一个时空里奇点智能技术大会始于 2016——大模型演进、AI Native 研发、企业级 AI 落地、多模态与世界模型、具身智能C 及系统软件技术大会始于 2005——现代 C 演进、AI 算力与推理优化、高性能低时延系统。为什么要放在一起因为上层 AI 应用的爆发离不开底层系统软件的支撑而底层技术的演进方向也正在被 AI 重新定义。70 位技术专家18 个前沿专题1000 同行到场。如果你也在这些方向上做研究、做产品、做工程别错过。首位确认重磅嘉宾OpenAI 资深研究科学家 Łukasz Kaiser。Transformer 八子中唯一还在科研前线的人GPT-4/5、o1、o3、ChatGPT 的核心共同发明人。2021 年他在这个大会上给出三个方向多模态、更大更好的 Transformer、模型即服务。五年后全部命中。去年他讲的是推理模型的进化——从记忆到策略再到研究器模型开始学会自己思考。第三次登台他会带来什么扫码领取 Łukasz Kaiser 历年在奇点智能大会的分享 PPT 与视频同步获取大会最新议程与早鸟名额。