朋友圈里刷到一条传闻:某车企掌门人“掀桌”复活自研AI芯片项目,新一代加速卡性能号称暴涨50倍,整体成本只要现有主流方案的1/10,直接把做算力芯片的巨头逼进了死角。说实话,我的第一反应不是跟着高潮,而是想先打开计算器——这个圈子最不缺的就是发布会PPT和媒体标题,真正能落地的东西,往往比数字枯燥得多。
但这条消息确实戳中了一个正在发生的大趋势:AI算力需求已经膨胀到让巨头们开始自研芯片“掀桌”的程度。如果你是个搞大模型、搞自动驾驶、或者单纯关注算力采购成本的工程师,这篇文章值得看下去。我会把“50倍”拆开算一遍,把“1/10成本”背后的账目口径讲清楚,也会聊聊这件事对整个AI加速器市场的真实冲击。别急着站队,先看懂数字怎么来的。
1. 掀桌子的底气:为什么一家车企非要碰AI芯片
1.1 从训练到推理,AI算力需求把传统供应链逼到了极限
先说一个反直觉的事实:现在制约大模型和智能驾驶落地的,往往不是算法,而是算力供给。过去这几年,头部AI公司买显卡像是买白菜,按千张、万张的量级进货。可买来的卡真能完全发挥吗?至少我在多个集群上看到的实际情况是,大规模分布式训练会把大量时间浪费在通信和等待上,真正的芯片计算效率能到50%就已经算优化得很好了。
这时候,一个掌握了大量实车数据、同时又对“成本极度敏感”的车企,会开始问一个很朴素的问题:我每年花几十亿买别人的卡,能不能按自己的算法需求做一颗专属芯片?
这就是整个事件的起点。按理说,一个车企的核心竞争力应该在底盘、电池、自动驾驶算法,而不是半导体。但到了大模型时代,算力本身就是产品竞争力的一部分。谁能用更低成本跑同样的模型,谁就能在价格战里活下来;谁能把训练周期从几周压到几天,谁就能更快迭代算法。所以车企自研AI芯片,不是跨界乱搞,而是把计算当成业务的一部分来对待。
1.2 从原型到“Dojo 3”:一颗芯片的迭代逻辑是什么
我注意到这条传闻里有一个很关键的词:复活。这说明它不是从零开始,而是某个搁置项目的重启,而项目编号已经推到了新一代。其实在AI芯片圈,一代产品从定义到流片、再到软件栈适配,通常要两到三年。如果中途因为战略调整被砍掉,再想重启,团队、供应链、软件生态全都要重来一遍,难度不亚于从零开始。
那么问题来了:为什么会被复活?通常有两个原因。第一个原因是外部算力供给受限,想买的卡买不到,或者价格高到离谱;第二个原因是内部算法演进到了一个特定形态——比如从纯视觉模型转向端到端大模型——通用芯片的利用率开始明显下降,自研芯片的“针对性优势”变大了。
让我用一个生活化的类比解释:通用AI芯片就像一把瑞士军刀,什么都能干;自研芯片像是专门为你的菜板定制的菜刀。切菜这件事,定制刀一定比瑞士军刀顺手,但前提是你得天天切菜,而且切得足够多,摊薄开模成本。车企自研芯片复活的逻辑也一样——只有当算法任务足够固定、量足够大时,定制芯片才划算。
至于“Dojo 3”这个代号,我们不好说里面具体用了什么架构,但可以确定的是,真正的三代产品一定不是简单堆芯片数量。它大概率重新做了计算阵列设计、片上互联、以及编译器调度方案。这几样东西组合起来,才能解释所谓的“性能暴涨50倍”。
2. “AI5”的50倍性能暴涨:架构推演与变量拆解
2.1 50倍从哪来:制程、互联、内存带宽、稀疏计算的联合放大
50倍这个数字,乍一听像天文数字。但如果把AI芯片的性能拆成几个变量,你会发现,完全有可能在一代产品上把指标拉满5-10倍,再叠加某种“特殊算法模式”,最后按摩尔定律之外的口径算出50倍。关键在于口径。
先看运算单元。单颗芯片的算术吞吐量主要受制程、频率、计算阵列规模影响。如果这家车企从上一代成熟制程切到了最新制程,晶体管密度翻倍,再塞入更多乘加单元,单芯片峰值算力翻2-3倍并不夸张。如果同时把内存带宽换成新一代高带宽内存,带宽翻倍,矩阵乘法单元喂得饱,整卡实际吞吐又能再涨。
再看互联。AI集群的瓶颈往往不在单卡,而是卡与卡之间的数据搬运。如果新一代芯片把片间互联从原来的几百GB/s提升到TB/s级别,那么在一个千卡集群里,同步训练效率可能从30%提升到80%。单卡性能翻3倍,集群效率又从3成升到8成,这里就接近8-10倍的性能差异了。
最后是稀疏计算。很多大模型里的权重矩阵其实是高度稀疏的,即大量参数接近零。如果新一代芯片在硬件上原生支持稀疏度跳过,只计算非零部分,那么对于一个稀疏度为80%的模型来说,理论上可以再节省3-4倍的计算量。三股力量叠在一起——单芯片、集群、稀疏算法——50倍就从一个抽象概念变成了账面上的算术结果。
2.2 一个诚实的提醒:性能翻倍口径背后的“测量游戏”
但是,请注意上一个小节里反复出现的词:理论上。我把话挑明:任何厂商宣传的AI芯片性能,都要先回答三个问题才能当真——测试用的模型是什么?精度是多少?整个系统是不是刚好为这个测试做过定向优化?
我见过太多“单卡性能翻倍”的宣传,一放到千卡集群上,实际吞吐可能只比上一代多40%。为什么?因为通信瓶颈、存储墙、以及编译器没有适配好。你也别指望一家车企自研芯片的编译器在一代产品里就追上深耕多年的巨头。软件生态是最大的隐形成本。
我这么说并不是否定这条传闻,而是提醒大家用一个统一的标准去衡量:把FP8、FP16、INT8这些精度标注清楚,把模型结构、批量大小、分布式拓扑公开,再拿同一个模型跑一遍,对比每瓦性能、每美元性能。在这之前,所有“50倍”都只是一个待验证的数字,而不是结论。
就我个人的处理方式来说,任何芯片性能新闻,我都会先把它折算成两个业务指标:一是同等算力下的成本,二是同等模型下的训练周期。只看峰值运算次数意义不大,因为你买的是“解决问题的时间”,不是“每秒多少次浮点运算”。
3. 1/10成本:这句话到底在算什么账
3.1 单颗芯片成本 vs 总算力TCO,两种算法差出10倍
“1/10成本”是我更想较真的地方。因为“成本”这个词,在算力采购里有至少三种完全不同的含义,而宣传口径常常在三种含义之间偷换。
第一种是物料成本,也就是芯片BOM(材料清单)。第二种是单卡成本,包括芯片、散热、包装、内存。第三种才是最有意义的——总拥有成本(TCO),它包含采购价、机房建设、电力、散热、维护、折旧、软件适配人力,以及最容易被忽略的空置率。
举个例子:如果一颗自研芯片的物料成本只有对手的一半,但配套的软件栈不成熟,需要多养一个几十人的优化团队,每年人力成本上千万,那么所谓“1/10”很快就会在TCO里被吃回来。反之,如果软件栈成熟、集群利用率高、功耗低,即使芯片本身不便宜,按照每美元每FLOP的维度算,也完全可能真的做到对手成本的十分之一。
所以看到“1/10成本”时,我建议你当作一个营销锚点来看,而不是一个可以直接写进采购方案的数字。真正有参考价值的是:每训练一个千亿参数模型,总花费是多少;每运行一个在线推理请求,单位成本是多少。这两个数能算出来,谁便宜谁贵一目了然。
3.2 把单位成本打下来的三个真实杠杆
抛开宣传话术,自研芯片确实有三个结构性成本优势,值得认真对待。
第一个是规模效应。车企最大的优势是单一客户、单一模型、超大用量。只要一颗芯片只跑自家那几类模型,设计上就不用做通用性妥协,晶体管可以全部用在刀刃上,良率、封装规格也可以按固定形态优化。产量到一个量级之后,单颗芯片的摊销成本会快速下降。
第二个是省掉毛利层。买通用芯片,你付的钱里包含厂商的研发摊薄、销售费用、利润空间;而自研芯片无论怎么算,这部分收益是留在自己手里的。说白了,同样是500W功耗的板卡,如果通用芯片卖10万一块,自研芯片的直接制造成本可能只有两万三,中间的差价就是信息优势和规模效应带来的。
第三个是端到端系统优化。自研芯片可以配合自己的网络协议、编译器、调度系统一套设计,减少数据中心里白白浪费的算力。集群利用率每提升10个百分点,在总成本上的节省,往往比芯片单价砍20%还明显。
但这也正是风险所在:如果量铺不满、算法大改、团队流失,自研芯片的成本优势会在一瞬间变成财务黑洞。我看到过不止一个企业自研芯片项目,在投入几十亿后因为“对接不上业务”而停摆,这个坑不可不清醒认知。
4. 被逼入死角的对手:算力军备竞赛里的生态与反制
4.1 生态护城河与自研者的两难
几乎所有做AI芯片的团队,第一版流片成功时都会觉得“我已经追上巨头了”,但真正让他们痛苦的永远是同一个词:生态。巨头的优势不只在芯片本身,而在于那么多年积累下来的软件栈、调试工具、优化库和开发者习惯。
举个例子,你在C系列软件栈里训练过一个模型,想迁移到新芯片上,不是改几行代码就完事的。算子得重新实现,精度对齐需要一两个月,分布式通信库要适配,连数据管道的批处理逻辑都可能要改。一个成熟模型迁移到新平台,稍微大一点的团队来做,少说三个月,多则半年。对于追求速度的AI团队,这就是高额的切换成本。
所以,自研芯片的真正挑战,并不在于把硬件性能做上去,而在于能否围绕硬件建立一套“足够匹配自家业务”的软件闭环。车企自研芯片的最大优势,恰恰在于它只需要适配自己的算法,不需要照顾开发者生态——因为开发者就只有自己。这就是所谓的“掀桌”逻辑:我不在通用市场上和你打,我在自己家里换一套规则,你管不着。
4.2 谁在慌、谁能跟进、谁会掉队
从行业格局看,芯片巨头露出紧张感是可以理解的。过去几年,几家互联网大厂、车企、造新架构的初创公司,都在试图绕开传统GPU路线。如果头部车企证明“自研芯片能在自家场景下以1/10成本干同样的事”,这会让所有做AI算力的厂商重新思考:通用方案还能收多少溢价?
但我并不认为传统巨头会坐以待毙。它们手里的王牌依然是规模巨大的软件社区和成熟的数据中心解决方案,而且它们自己也在针对大模型推出专门加速方案。真正的危险在于:通用加速器越来越难在所有场景保持“最佳性价比”,而每个细分场景都可能出现一个自研者。这种“大厂守通用、玩家做专用”的格局会持续分化。
对行业内的工程师来说,这其实是个好时代。芯片选择变多,技术路线分化,意味着懂异构计算、懂编译优化、懂系统设计的人才价值越来越高。将来你不需要因为你用的是某一家芯片而骄傲,你需要骄傲的是你搞懂底层计算逻辑,能够快速把算法压到任何一款新芯片上跑起来。
5. 从热词回归工程:该怎么理性评估“性能暴涨”
5.1 用一个最小实验验证50倍的说法
如果你手头有预算,想验证这类说法,我的建议是先跑一个最小可控实验,别急着搭超大集群。具体怎么做呢?
第一步,把上一代和最新一代芯片放在同一台机器上,跑同一个模型的一个子网络,固定相同的批量大小和精度,记录三个指标:端到端单卡吞吐、实际功耗、显存占用。第二步,再做两卡和四卡的扩展测试,看线性扩展比。很多芯片单卡性能不错,一到多卡,互联就掉链子。第三步,用你最核心的生产模型——不是公开基准里的标准模型——跑24小时,看稳定性、故障率和性能波动。
这套流程走下来,你不需要任何人给你PPT演示,自己就能得出结论。更重要的是,你会顺便摸清楚迁移工作量到底有多少:几个算子要手写,几个优化参数要调,通信库要不要动。这些往往是决定一个芯片能不能上生产环境的隐性成本。我自己做迁移评估时,有一半时间花在硬件选型上,另一半时间全花在“把现有算子库在目标芯片上跑出足够效率”这个反复试错的过程里。
5.2 真实决策中的采购清单:五个必问问题
最后,无论你是技术负责人还是投资人,面对“下一代芯片50倍性能提升”这种消息,先别急着写报告。给你一份我平时使用的问题清单,可以帮你过滤掉大部分水分。
第一,算力提升是单卡还是集群?如果是被千卡训练优化带出来的数字,小规模场景不一定能复制。第二,精度是多少?有没有明确Tensor Core算力、稀疏算力、稠密算力三个口径?第三,软件栈成熟度如何?关键算子符不符合你模型里最耗时的那些?迁移需要多少个月?第四,功耗和散热是多少?性能翻倍、功耗也翻倍的话,到机房根本不划算。第五,供应链能和你的量产节奏匹配吗?新芯片能不能稳定供货一整年,而不是只能小批量流片?
这五个问题问完,你会发现大多数“惊艳”的芯片新闻,答案都会变得模糊。这不是说自研芯片没有价值,而是说真正的价值要靠自己的业务来验证。芯片行业有一条守恒定律:如果你的模型足够固定、量足够大,专用芯片确实可以碾压通用芯片;反过来,如果你的模型三天两头变,专用芯片的优势就会变成劣势。
我个人最深的体会是,AI芯片领域的消息永远比芯片本身跑得快。今天刷到的“50倍性能暴涨”,可能半年后才会出现在某个评测报告里,然后被证明是“特定情况下成立”。但这并不意味着我们该忽视它。恰恰相反,每一个这样的信号,都说明算力供给正在从封闭转向多样。作为一线的技术人,保持好奇心,保持计算能力,手里握着真实的评测数据,比什么都强。