简介：这份《2025年中国人工智能计算力发展评估报告》由浪潮信息发布，面向关注AI算力产业的研究者、企业技术决策者与投资分析人员，系统梳理全球及中国人工智能算力的发展脉络与评估结论。资源包共1个PDF文件，约4.69MB，正文45页，结构完整、图表与数据密集，便于按章节检索与引用。报告涵盖全球生成式人工智能五大算力趋势、中国算力效能提升路径，以及芯片与服务器、存储与网络、可持续数据中心、边缘计算、算法模型、算力服务与应用等细分方向，并给出行业与地域排名及IDC建议。核心观点部分结合DeepSeek R1等案例，讨论算法创新对训练与推理算力消耗的影响，引用2024至2028年全球AI服务器市场与中国智能算力规模的预测数据，还涉及液冷技术、智算服务市场及城市评估框架。已有180人学习，适合需要把握算力产业格局、撰写行业分析或制定技术规划时参考。
1. 算力账本：为什么算法效率提升反而推高了总能耗
一份行业评估报告里最反直觉的数字，往往藏在能耗曲线里。2024 年全球人工智能数据中心 IT 能耗约 55.1 太瓦时，2025 年预计 77.7 太瓦时，2027 年冲到 146.2 太瓦时，五年六倍。与此同时，模型侧的效率故事讲得热火朝天：某个开源推理模型把训练算力压到同类模型的十分之一，推理缓存数据量降低数十倍，API 定价只有头部闭源模型运行成本的一小部分。按直觉，效率上去了，电就该省下来。可曲线偏偏往上走。
这不是统计口径的玄学，而是这份《2025 年中国人工智能计算力发展评估报告》真正想讲清的一件事：算力供需的底层机制，不是「效率高就少用」，而是「单位成本下降 → 使用门槛降低 → 场景和用户涌入 → 总需求扩张」。报告用杰文斯悖论来命名这个现象，并把它和规模法则并列，作为理解当前智算产业的两把钥匙。搞懂这两把钥匙怎么咬合，才能看懂后面芯片、存储、网络、液冷、边缘、算力服务这一整条链为什么必须同时演进。下面按「结论 → 机制 → 实现细节」的顺序拆开讲。
2. 规模法则的迁移：从预训练一路烧到推理阶段
2.1 规模法则为什么没有失效，只是换了战场
过去谈规模法则，语境基本固定在预训练：参数、数据、算力三条轴同时放大，损失曲线平滑下降。报告给出的判断是，这条规律仍然主导，但作用区间已经从预训练扩展到后训练和推理。后训练阶段靠强化学习、思维链这类方法，用更多算力换更深的推理能力；推理阶段则因为「想得久一点」而消耗更多 token。
这个迁移带来一个结构性变化：算力需求不再是一次性的训练投入，而是随调用量线性甚至超线性增长的持续开销。训练是资本开支，推理是运营开支，后者一旦起量，对数据中心、边缘节点、端侧的拉动是全天候的。报告里那句「效率提升并未抑制算力需求，反而因更多用户和场景加入而推动普及」，落到的就是这层机制。
常见的实现思路是，把推理拆成预填充和解码两个阶段分别优化。预填充处理长输入序列，计算密集；解码逐 token 生成，访存密集。两者对计算和存储的访问频率、调度需求完全不同，所以实操中倾向 P-D 解耦部署，建分离式算力资源池。这样做的直接收益是缩短计算时间、降低单位成本、提高资源利用率——注意，是提高利用率，不是减少总用量。
2.2 杰文斯悖论的工程含义：扩容与提效必须并行
报告反复强调「扩容」与「提效」并行，很多人读成一句正确的废话。放到机制层面，它其实是在说：单靠扩容会撞上能耗和成本墙，单靠提效会被需求反弹吃掉红利，两条腿必须同时走。
提效这条腿的具体抓手，报告列得很实在：模型剪枝、知识蒸馏、高效模型架构设计、分布式计算。这些手段的共同点是在保障模型能力的前提下，减少计算量和存储需求，降低同等精度水平下的算力成本。举个报告里的例子，某混合专家架构用门控网络组织 32 个专家，单 token 的训练和推理算力开销只有某个 700 亿参数稠密模型的十九分之一。另一个 6710 亿参数的 MoE 模型，靠稀疏激活在保持表达能力的同时大幅压低计算量和内存占用。
扩容这条腿则落在供给侧的物理建设：智算中心数量、单期千 P 级规划、万卡级集群部署、面向未来适度超前建设。两条腿的耦合点在于「系统性提高算力利用率」——不是把机器塞满，而是让每一份算力在训练、微调、推理之间灵活流转。
提示：读这类评估报告时，凡是看到「效率提升」和「需求增长」同时出现的段落，先别当成矛盾，去找它有没有给出需求侧的扩张证据（用户数、场景数、调用量），那才是判断结论成立与否的关键。
2.3 一个可验证的推演：效率红利如何被场景吃掉
把机制落到可算的层面。假设某类推理服务的单位 token 成本下降 90%，如果调用量不变，总开销降九成；但只要价格弹性足够，调用量涨十倍，总开销就回到原点，涨二十倍就是净增长。报告给出的现实证据是，某开源推理模型发布后七天活跃用户破亿，这种量级的场景涌入，足以把单点效率红利完全吸收。
所以评估一个智算项目的经济性，不能只看 FLOPS 单价，要看「单位有效 token 成本 × 预期调用量」这个乘积。前者靠算法和芯片，后者靠应用生态。报告把应用单独列为一节，逻辑就在这里：应用不是算力的下游消费者，而是算力需求的放大器。
3. 算力基础设施的六层拆解：每一层在解决什么瓶颈
3.1 芯片与服务器：Scale-up 与 Scale-out 的分工
报告对计算架构的判断很清晰：单节点性能提升（Scale-up）和节点数量扩张（Scale-out）是两条并行路线，服务的目标不同。
Scale-up 解决的是单次训练任务能不能装下的问题。报告给了一个具体的规模对照：配备 8 块高性能 GPU 的服务器可以支撑 2000 亿参数级别的模型训练；当插卡数量扩展到 72 块，就能有效支撑万亿参数级别训练。这个数字背后是高速互联总线的带宽和延迟约束——卡越多，通信开销占比越高，互联拓扑的设计直接决定扩展效率。
Scale-out 解决的是集群规模问题。千卡、万卡甚至十万卡集群，靠高速互联网络（以太网和硅光子技术）加分布式计算框架支撑。这里的关键机制是并行策略的组合：数据并行、流水线并行、张量并行，不同策略对带宽的需求差一个数量级，网络架构必须能同时承载。
芯片侧的另一个趋势是开放多元。报告提到 GPU、CPU、DSA、ASIC 多种芯片在训练和推理中混合使用，RISC-V 这类开放指令集架构为定制化硬件提供灵活性和成本效益。多元化的动因不只是供应链，还有场景适配：训练要极致算力密度，推理要能效比和低延迟，没有一种芯片能同时赢下两个战场。
3.2 存储与网络：被低估的算力放大器
很多人算智算账只算 GPU，存储和网络经常被当成配套。报告把这两块单列，是因为它们直接决定算力能不能被喂饱。
存储侧的关键词是分布式存储与全闪存。训练场景的数据读取模式是大文件顺序读加随机小样本读混合，检查点写入是突发大流量；推理场景则是低延迟、高并发的键值访问。全闪存把 IOPS 和延迟压下来，分布式架构把带宽横向扩出去，两者组合才能匹配 GPU 的吞吐。报告还提到数据生命周期的变化：生成式内容让文本、图像、视频混合存储成为常态，到 2028 年超过 75% 的生成数据将均匀覆盖这三类，接近 18% 是软件代码。存储架构必须为这种混合负载设计，而不是为单一数据类型优化。
网络侧的核心是先进架构优化数据访问速度。大规模集群里，节点故障概率随规模上升，报告明确点出千卡到十万卡集群的可用性挑战，需要高效监控体系和故障恢复机制，配合智能显存分配、故障点恢复管理这类技术，把停机时间压到最小。这部分常被忽略，但它决定了有效算力——标称一万卡，实际稳定跑满八千卡，差的这两千卡就是可靠性设计的价值。
3.3 可持续数据中心：液冷为什么从选项变成必选
能耗数据前面已经摆过，这里看机制。单机柜功率密度是分水岭：GPU 功耗在 250W 到 700W 之间，服务器单机柜功率可高达 130kW。传统风冷的散热能力在这个量级上已经触顶，继续堆风扇只会让 PUE 恶化。液冷的物理优势在于载热介质的比热容和导热系数远高于空气，能在同等体积下带走更多热量，从而支撑更高计算密度。
报告给出的市场信号是，2028 年中国液冷服务器市场将达到 105 亿美元，五年年复合增长率 48.3%；到 2028 年 60% 的数据中心将采用微电网、定制硅芯片、液体冷却和加固结构等创新方案。液冷的落地层次也分得清楚：计算节点层面、机柜层面、数据中心层面，全栈液冷方案对应不同的改造成本和收益曲线。PUE 压到 1.3 甚至 1.15 以下，是政策要求和电费结构共同作用的结果，不是单纯的技术炫技。
报告里还有个有意思的提法：数据中心从「储电能」向「储算力」跨越，让算力靠近电力源头，把静态电能转化为动态算力。这个思路的本质是把电力调度和计算调度合并考虑，对选址、供电、网络时延都提出新约束。
3.4 边缘计算：推理下沉的延迟账
大模型部署向边缘迁移，驱动力是推理场景的延迟敏感度。实时翻译、语音识别、工业质检这类任务，往返云端的时间不可接受，模型必须落在离数据近的地方。报告提到轻量化模型版本让智能手机、智能家居能执行复杂 AI 任务，边缘设备上执行关键分析实现低延迟响应和分布式智能处理，同时减轻中央服务器压力。
边缘的工程约束和云端完全不同：功耗预算、内存带宽、散热空间都被压缩，模型必须经过量化、剪枝、蒸馏才能落地。这也解释了为什么算法侧的效率创新和边缘部署是同一件事的两面——没有轻量化，边缘就是空谈。
3.5 算法与模型：模算效率这个词的分量
报告造了一个词叫「模算效率」，指模型能力与所消耗算力的比值。提升路径列了四条：模型剪枝、知识蒸馏、高效架构设计、分布式计算。前三条减少计算量和存储需求，第四条提升并行效率。
这里值得展开的是高效架构设计里的 MoE。稀疏激活的机制是：每次前向只激活部分专家，参数量可以做得很大，但实际计算量按激活比例走。代价是路由网络的设计难度和负载均衡问题——专家利用率不均会导致部分卡空转，反而拉低整体效率。报告举的 32 专家门控网络例子，重点就在「基于注意力机制的门控」这个设计上，路由质量决定稀疏化的收益能不能兑现。
3.6 算力服务：供给模式为什么必须创新
报告判断传统算力技术架构和云服务模式难以满足新需求，于是列出几种供给形态：生成式 AI 的 IaaS 服务按需提供容量，算力租赁降低门槛，算力共享靠资源池化和动态调度分摊成本，智算中心提供一站式高可用服务。2024 年中国智算服务市场规模 50 亿美元，2025 年增至 79.5 亿美元，五年年复合增长率 57.3%。
服务化的底层逻辑是算力消费的波动性。推理负载的算力需求难以预测和管理，自建集群在低谷期闲置、高峰期不够，资源池化加智能调度才能把局部浪费压下去。报告在挑战部分明确点出：缺乏有效的算力分配和调度机制，导致算力资源局部浪费和整体利用率低下。这句话是整条服务化路线的存在理由。
4. 评估体系与落地排查：数字背后的口径问题
4.1 智能算力和通用算力为什么用不同精度测算
报告的方法论值得单独说。智能算力规模基于加速计算服务器市场和加速卡半精度（FP16）运算能力测算，通用算力基于服务器市场和 CPU 双精度（FP64）运算能力测算。2025 年中国智能算力规模 1037.3 EFLOPS，2028 年 2781.9 EFLOPS，五年年复合增长率 46.2%；通用算力 2025 年 85.8 EFLOPS，2028 年 140.1 EFLOPS，年复合增长率 18.8%。两个数字较上一版本预期值 33.9% 和 16.6% 都有显著上调。
用不同精度口径不是随意选择。AI 训练和推理主要跑在低精度浮点或混合精度上，FP16 更能反映加速卡的实际有效吞吐；通用计算以 CPU 双精度为主，FP64 是合理基准。把两者混在一个口径里比较，会得出误导性结论。读任何算力规模数字，第一件事是问口径。
4.2 常见排查清单：五个容易翻车的认知
现象一：拿标称算力直接算训练时间，结果差出好几倍。原因：标称 FLOPS 是峰值，实际有效算力受互联带宽、并行策略效率、检查点开销、故障重启影响。解决：按模型并行度和集群规模估一个有效算力系数，千卡以上集群通常要打明显折扣，再乘上任务的实际 MFU。
现象二：看到效率提升就判断算力需求见顶。原因：忽略了需求侧弹性。解决：把单位成本下降和调用量增长放在一起看，报告里用户七天破亿这类数据就是需求侧证据。
现象三：液冷改造只算服务器账，不算配电和管路账。原因：液冷是系统性改造，冷源、管路、机柜承重、运维流程都要动。解决：按计算节点、机柜、数据中心三个层次分别评估投入产出，别拿单机改造价乘数量当总预算。
现象四：把开源模型的低成本直接套到自己的场景。原因：报告里某模型开发成本不到 600 万美元、开发时间两个月，是特定团队在特定条件下的结果，不含数据准备、试错、工程化调优的隐性成本。解决：估算时把数据治理、评测、部署适配的工时算进去。
现象五：智算中心建成即认为算力可用。原因：报告明确指出部分中心实际运营中算力利用率未达预期。解决：建设前先锁定应用场景和调度机制，把「算力可获得性」和「算力可用性」分开评估。
5. 设计取舍：为什么没有一条路线能通吃
把整份报告的技术判断收拢，会发现所有取舍都指向同一个结构：训练和推理的需求曲线不同，云端和边缘的约束条件不同，通用和专用的成本模型不同，任何单一路线都只能赢下一个切面。
芯片层面，训练要算力密度和互联带宽，推理要能效比和低延迟，于是 GPU、ASIC、DSA 混合部署成为常态，开放指令集架构提供定制空间。架构层面，Scale-up 解决单任务装得下，Scale-out 解决集群扩得开，两者投入比例取决于业务是训练密集还是推理密集。散热层面，风冷在低功率密度下成本更优，液冷在高密度下才划算，切换点大致在单机柜功率越过风冷能力边界的位置。供给层面，自建适合稳定负载，租赁和共享适合波动负载，智算中心适合需要一站式能力的场景。
这些取舍没法用一张表拍死，因为参数随业务变化。真正可复用的方法，是报告隐含的那套评估框架：先定精度口径，再定负载类型（训练/推理/混合），再定规模（单节点/千卡/万卡），最后按能耗和利用率反推架构。任何一步跳过，后面的数字都会失真。
我自己的习惯是，每次看到「算力规模增长多少倍」这类结论，先回头找三样东西：测算口径、需求侧证据、利用率假设。这三样齐了，结论才有讨论价值；缺一样，就先当成待验证的假设。这份报告的价值不在于给出一个确定数字，而在于把「扩容与提效并行」这个判断拆成了可逐层验证的机制链——从规模法则的迁移，到杰文斯悖论的需求反弹，再到芯片、存储、网络、液冷、边缘、服务每一层的具体约束。顺着这条链读下去，很多看似矛盾的数字就能对上账。希望帮到你。
本文还有配套的精品资源，点击获取
