ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

12寸晶圆产线数据存储:分布式架构与生命周期管治实践

12寸晶圆产线数据存储:分布式架构与生命周期管治实践

1. 12寸晶圆产线的数据到底难在哪

做半导体存储这块时间长了,你会发现一个很有意思的现象:很多人提到晶圆厂,第一反应是光刻机、刻蚀机、薄膜设备这些动辄上亿的大家伙,觉得这才是产线的核心资产。这话没错,但真正让IT部门和智能制造团队日夜头疼的,往往不是设备本身,而是这些设备疯狂吐出来的数据。

我参与的这个项目,是一条12寸晶圆制造产线。所谓12寸,指的是晶圆直径300毫米,是目前最主流的先进制程载体。产线一旦跑起来,就是全年无休,每天24小时连轴转。跟传统制造业最大的区别在于,半导体产线的每一个工艺环节都在产生数据,而且这些数据不是给人看的,是给机器和系统看的。换句话说,数据本身就是生产流程的一部分。

1.1 晶圆产线的数据画像

先说数据来源。一条完整的12寸产线,从前段的扩散、光刻、刻蚀、离子注入、薄膜沉积,到后段的研磨、切割、封装测试,每个站点都有对应的量测和检测设备。以我接触的这条产线为例,月产能大约两万片晶圆,日常在制品(WIP)数量维持在几千片,每片晶圆要经过几百道工序。

每道工序基本都要配套检查。光学检测(AOI)设备扫一片晶圆,生成的缺陷图像、坐标文件、频谱数据轻松达到几个GB;关键尺寸量测(CD-SEM)每片晶圆也要产生大量高分辨率图像。还有一些工艺腔室的实时日志、设备传感器上报的时序数据、SECS/GEM通信记录。把这些叠加起来,整个产线每天新增的数据量在5到8TB之间,高峰期单日突破10TB很常见。

关键问题在于,这些数据不能随便删。半导体制造对良率分析极其依赖历史数据,今天发现某批晶圆良率异常,工程师要追溯前两周甚至前一个月的工艺参数、设备状态、检测图像。所以行业里的通行做法是数据至少保留两到三年,法规审计和客户认证要求可能更长。这么算下来,一个两万片月产能的工厂,在线数据轻松做到几个PB,加上副本和备份,实际存储需求还要翻倍。

1.2 三个让人头疼的特性

我把产线数据的特征总结成三句话:海量小文件与超大文件并存,高并发读写与长期归档并存,在线响应与合规留存并存。

第一条最致命。晶圆检测产生的图像,单张可能只有几百KB到几MB,但数量极其庞大,一个批次就是几十万个文件。而另一方面,某些量测机台的原始数据文件又是单文件几十GB甚至上百GB的大家伙。这两类数据要放在同一个存储系统里,对文件系统来说就是灾难:既要处理海量元数据,又要扛住超大文件的顺序读写带宽。

第二条考验的是并发能力。产线上几百台设备同时回传数据,MES系统和EAP系统要频繁读写中间态数据,良率分析部门的工程师又随时在跑告警查询。这些负载不是均匀分布的,往往集中在换班、批量出片、突发异常处理这些时间点,瞬间并发极高。传统存储在这种压力下很容易出现IO延迟毛刺,一旦超时,直接导致产线机台等待、系统报错,这是绝对不能接受的。

第三条是留存压力。在线数据要随时能调,归档数据要保证几年后还能读得出来,备份数据不能轻易丢失。很多工厂最初觉得"存下来就行",结果一年后发现归档数据因为存储格式兼容性问题读不出来,或者备份恢复流程压根没做过验证。这些都算数据管治的范畴,不是单纯买台存储设备就能解决的。

所以,12寸产线的存储,表面看是容量问题,本质上是性能、可靠性、可治理性三个维度同时压过来的综合难题。

2. 为什么传统存储方案先撑不住了

在引入XSKY之前,这条产线其实有一套老牌存储阵列在跑,来自某国际大厂的集中式NAS设备。2018年上线的时候还算够用,但到了近几年明显顶不住了。这里我把当时遇到的瓶颈详细拆一遍,你会发现这些问题非常典型,也是很多Fab(晶圆厂)都会走到的死胡同。

2.1 集中式NAS的天花板

集中式NAS最大的问题是把所有元数据管理集中在一对控制器上。当一个目录下的文件数超过几百万,或者总文件数达到几亿的时候,文件系统的目录扫描和属性查询会变得极其缓慢。我们当时的情况是,AOI检测数据按批次归档,一个批次的目录里放了十几万个文件,工程师访问这个目录时,光是列出文件列表就要等几十秒,鼠标转圈转到怀疑人生。

更要命的是高并发下的锁竞争。几百台设备同时向NAS写入,文件锁和inode操作互相等待,实际吞吐远达不到控制器的标称值。我们做过一次统计,业务侧实际能感知的IOPS只有标称的30%左右,延迟还时不时冒出来一个几秒钟的尖峰。对设备工程师来说,最怕的就是"存储慢导致机台报警",这直接影响设备稼动率,属于不可接受的事件。

还有一个容量扩展的问题。集中式NAS扩展要换头或者加扩展柜,每次扩容都是一次小工程,要压窗口、做迁移、割接。产线数据量半年涨一倍,IT团队的扩容节奏跟着跑,一年到头都在折腾迁数据。

2.2 分布式存储的介入理由

后来我们开始认真评估分布式存储方案。分布式架构的核心思路是把数据打散到多台服务器上,元数据也分散处理,通过横向扩展来线性提升性能和容量。在面对海量小文件和超高并发时,分布式方案的韧性明显更好——坏一台服务器,数据自动重建,业务基本无感知。

为什么最终选型落在XSKY上?不是因为它名气最大,而是几个实际诉求正好对上了。产线环境复杂,有些机台是Linux系统,走NFS协议;有些老旧设备只认CIFS/SMB;良率分析和AI训练平台又希望直接通过S3对象接口读数据。传统NAS通常只擅长一个协议,要么NFS强、要么SMB强,对象接口往往是附加功能,性能一般。而XSKY的产品体系把文件、对象、块几种协议统一在一套底层存储平台上,一套集群同时对外提供NFS、SMB和S3服务,这对半导体产线这种多源异构、不同系统并存的环境来说特别实用。

另外,在评估过程中我们特别看重它的数据治理能力,比如生命周期管理、冷热数据分层、跨站点容灾这些。做半导体存储不能只买一个"能存的空间",还要考虑数据在整个生命周期里怎么管、怎么放、怎么流转,这才是标题里"高效管治"四个字的核心所在。

2.3 一套存储替代多套孤岛

早期产线的存储架构其实是割裂的:检测图像放在NAS A,设备日志放在另一个SAN存储,分析平台单独用一台对象存储服务器。这种架构带来一个麻烦——同一个批次的数据被拆散在三个地方,做根因分析时要先从三个系统分别导出,再手工合并。数据口径不一致、时效性差,分析效率低得离谱。

在评估阶段,我专门做了一个小实验:把同一份检测数据同时通过NFS挂载和S3接口写入XSKY集群,确认两端看到的是同一个文件,数据没有复制第二份。这意味着工程师可以通过文件路径访问传统数据,AI训练平台通过S3接口读同一批图像,双方不打架。一套存储,多个入口,数据只有一份。这个特性在做选型对比的时候,加分非常明显。

3. XSKY在产线里的落地架构与管治策略

选型只是第一步,真正的难活儿在后面。Phase 1部署从方案设计到首批业务迁移上线,前后花了两个多月。这里我把整体架构和关键配置思路整理出来,给准备做类似项目的同行参考。

3.1 存储集群的规划与配置

先看硬件规模和集群规划。当时我们根据数据增长预测,做了三组集群的规划,分别对应不同用途。主存储集群承载在线检测数据、MES中间态数据、良率分析工作区,采用全闪配置,节点配了NVMe SSD,裸容量大约700TB,实际可用容量按冗余策略打了折扣。备份与归档集群采用混闪配置,SSD做缓存层,大容量HDD做数据层,裸容量做到2PB左右,用于存放需要中长期保留的历史数据和备份副本。另外还有一套容灾集群,部署在厂区另一个物理位置,通过专线与主集群做异步复制,承载关键数据的容灾恢复。

XSKY这类软件定义存储有一个特点:存储服务运行在通用x86服务器上,硬件选型灵活,但这也意味着你选什么盘、什么网卡、什么交换机,直接决定了整体性能。我们当时和硬件供应商反复对了三轮配置,最后敲定的方案是:全闪集群节点之间用25GbE组网,机柜内走TOR交换机,跨机柜走Spine-Leaf架构,确保东西向流量不拥塞。

集群内部采用多副本机制保证数据可靠性,默认副本数设为2,加上机柜感知策略,不同副本落在不同机柜,避免整机柜断电导致数据丢失。刚开始有同事觉得"副本数多点更保险",建议设成3副本。我的判断是,产线在线数据追求的是性能与容量的一个平衡点,2副本加容灾异步复制已经能满足业务连续性要求,3副本会让可用容量缩水太多。权衡之后,只在备份集群的核心元数据目录上开了3副本,在线集群保持2副本。

3.2 冷热数据分层与生命周期流转

这套存储方案里,我最满意的部分其实是生命周期治理策略。它不是一个孤立的功能,而是我们和良率分析团队、设备工程团队、IT运维团队反复讨论后,制定的一整套数据流转规则。

半导体检测数据有个特性:刚产生的时候热,工程师会频繁访问、做缺陷复判、跑SPC(统计过程控制)告警,这个周期大约持续4到8周。之后这些数据的访问频率断崖式下降,变成偶发查询。到一年以后,基本只剩合规审计和客户追溯需求。

基于这个规律,我们把存储池的存储策略分成热、温、冷三个层级。热数据放在全闪存储池,访问延迟目标设定在亚毫秒级,支撑的是设备工程师的日常缺陷复判和在线SPC系统。30天后,数据自动迁移到温层,也就是混闪集群,容量大、成本低,访问性能稍微差一点但完全够用。180天后再自动流转到冷层,由备份集群中的大容量存储承载,只承担低频读取。

这一整套流转由XSKY自带的生命周期策略自动触发,策略规则如下图逻辑所述:按文件最后访问时间、目录路径前缀、文件大小三个维度组合匹配,到龄后自动执行数据搬迁动作。全程对业务无感,工程师不需要关心数据跑到哪一层去了,文件路径始终不变。

我还跟PaaS团队做了一个联动。一次性把所有产线数据的索引信息同步到分析平台,分析平台可以通过元数据直接查到某个文件在存储里的精确位置和当前所处层级。这样即便数据已经迁移到冷层,工程师做追溯时也能快速定位,不会出现"这个数据到底还在不在"的困惑。

3.3 与产线系统的对接方式

如果说集群规划和生命周期策略是骨架,那与产线各个系统的对接就是血管。12寸产线的系统环境极其复杂,每种系统对存储的要求都不一样。

设备自动化系统(EAP)是典型的低延迟高并发负载。几百台设备同时把工艺过程数据、设备事件日志往存储里写,单条记录只有几十字节到几KB,但并发量大,每秒数百次写入请求。我们给EAP的数据目录单独划了一个存储池,使用NFSv4协议挂载,开启专属的高并发元数据处理引擎,确保小文件写入延迟稳定在个位数毫秒级别。

MES系统对接主要靠数据库和文件双通道。数据库承载结构化信息,文件系统主要存放工单关联的附件、SOP文档、批次记录。这部分数据单文件不大,但访问路径层级深,我们把MES共享目录按站点细分成几十个子目录,配合配额管理防止个别站点把共享空间吃满。

AOI检测数据回传是另一个大头。检测机台运行Windows系统,只支持SMB/CIFS协议,同时要求写入速度必须跟得上机台自身出图速度。当时我们做过实测,一台AOI机台连续扫描时,数据产生速率约为150MB/s到250MB/s,十几台同时工作,总带宽需求就在3到4GB/s的水平。全闪集群经过调优后,实测单流聚合带宽能做到5GB/s以上,对接下来没有出现机台侧写盘超时的报警,这个结果让设备团队松了口气。

4. 实测:换存储之后产线数据流的变化

纸上谈兵不算数,上线跑一段时间才能真正看出效果。这里我挑几个关键指标,把切换前后的实际表现摆出来对比。

4.1 关键性能指标的横向对比

最直观的是小文件处理能力的提升。老NAS上列目录卡顿的问题,在XSKY集群上几乎绝迹了。我们用IOZone和vdbench做了几轮基准测试,同时也收集了业务高峰期的真实负载数据。小文件并发创建性能,是从原来单目录每秒几十个文件,提升到了每秒数千个文件,翻了大概两个数量级。这个差距意味着,一个批次几百GB的检测图像数据回传时间从将近半小时缩短到几分钟,产线节奏完全不被存储拖累。

另一个指标是混合负载下的延迟表现。老NAS在高并发下容易出现几十毫秒甚至数秒的延迟尖峰,XSKY全闪集群在混合读写压力下,平均延迟基本稳定在2毫秒左右,P99延迟控制在5毫秒内。设备工程师在SPC告警时要查的数据,基本是点击即开,不用等。

为了更直观,我把各环节的核心指标整理成一个对照表:

指标项原有NAS阵列XSKY全闪集群备注
小文件并发创建IOPS约200超过60000提升约两个数量级
单流聚合读带宽约1.2GB/s超过5GB/s满足AOI批量回传
混合负载P99延迟大于50ms小于5ms消除产线机台等待
目录文件列出耗时最长30秒以上毫秒级响应工程师体验提升明显
数据文件总规模约1.2PB在线3.5PB可持续扩展容量无压力

容量方面的变化同样关键。老NAS在线容量当时已经用了87%,扩容窗口排了又排,IT团队天天紧盯剩余量。切换到XSKY集群后,在线池裸容量按需扩展,横向加节点就行。到项目第二阶段结束,在线数据总量已经增长到3.5PB,容量使用率维持在60%左右,彻底告别了"每天盯着容量条过日子"的状态。

4.2 数据管理方式的变化

存储系统上线后,真正让各部门感受到"管治"价值的,是一些看不到但每天都在发生的变化。

第一是数据不再需要人工搬运。以前工程师在做良率分析时,如果分析平台需要旧数据,他们得先登录NAS,把数据拷到分析服务器的本地盘,再跑分析任务。代码写好了,但数据搬运经常出错。现在分析平台直接通过S3接口访问XSKY集群,旧数据自动从冷层回读,整个过程自动化完成。数据分析团队反馈,历史数据的追溯分析效率至少提升了40%。

第二是空间回收变得可控。以前存储空间满了,IT团队只能靠"哪块数据不常用就手动删哪块"来腾空间,风险极大,万一删错文件就是事故。现在有了生命周期策略,数据自动从热层迁移到温层再到冷层,在线容量始终在一个健康水位,不再需要人工介入处理空间告警。

第三是给备份和容灾提供了统一出口。之前备份是针对每个存储设备单独做策略,备份服务器有多套作业,管理混乱。现在所有需要备份的数据都通过统一接口进入备份集群,备份策略集中管理,恢复演练也简化成一个操作。我们的容灾集群做了两次真实切换演练,从主集群故障到容灾集群接管,数据回滚点控制在15分钟内,这个指标已经满足工厂的业务连续性要求。

5. 这些事情不提前做,上线之后会补得很痛

整个项目实施下来,我踩过一些坑,也总结了一些可以给后来者参考的经验。做存储项目跟做其他IT项目不一样,它的影响面太大了,一旦上线,所有产线系统都在上面跑,任何失误都会被放大。这里挑几个我认为最值得说的。

5.1 网络设计比存储本身更容易成为瓶颈

我们在Phase 1初期就犯过一个低级错误。最初规划25GbE组网时,想的很简单:服务器网卡、交换机端口都支持25G,那就够了吧。结果做基准测试时发现,多节点同时跑带宽压力测试,总吞吐始终上不去,排查了半天,最后发现是TOR交换机上联到Spine的链路只有两条10GbE,上行带宽被卡死了。

这个教训告诉我们,分布式存储不是"买了服务器装了软件就自动快",网络拓扑的每一跳都要仔细核算。尤其产线环境里如果还有旧的核心交换机混用,一定要确认所有链路带宽至少是节点网卡速率的两倍以上。我们后来把上联链路全部升级到25GbE,并做了端口聚合,问题才彻底解决。

5.2 协议版本和挂载参数要提前统一

另一个容易忽略的坑是NFS协议版本不统一。产线上的设备来自不同供应商,有的设备系统老旧,只支持NFSv3,有的新设备支持NFSv4.1甚至NFSv4.2。如果集群侧强制打开NFSv4的某些高级特性,老设备挂载时会报错或者降级到低性能模式。

我们当时的做法是,在集群层面按挂载来源细分导出策略,给老旧设备提供NFSv3专用的挂载点,新设备走NFSv4.1。虽然看起来不那么"统一",但每台设备都用到了自己最合适的协议版本。这个细节建议在项目规划阶段就整理清楚,把所有设备的OS版本、协议支持清单提前收集一遍,不要等到上线前才去临时适配。

5.3 数据迁移要留足窗口,别一口气全搬

在线业务切换到新存储,迁移是最容易翻车的环节。一开始我们计划一个周末把所有数据从老NAS迁到新集群,结果发现将近600TB的数据,按照实际网络带宽算下来,迁移时间远超周末可用窗口。

后来调整了策略,分三批迁移,先迁最热门的良率分析工作区,再迁MES关联数据,最后迁归档数据。每批迁移前做一次数据一致性校验,迁移完成后保留老NAS只读挂载一个月,确认所有业务系统无异常后才逐步清理老存储上的数据。整个过程用了三周,产线零中断。要让我给建议,就是千万别贪快,数据迁移过程中任何校验环节都不能省。

5.4 给后来者的几条实操建议

总结这次项目经验,我给即将做类似项目的同行几条建议。

第一,先梳理清楚业务负载模型,再配置存储策略。半导体产线的存储需求分得非常细,每种数据类型有完全不同的特征,不要期望一套配置解决所有问题。如果前期不花时间把负载模型摸清楚,后续策略调整的成本会很高。

第二,冷热分层规则一定要跟业务团队反复确认。数据生命周期策略不是存储团队自己拍脑袋定的,而是各单位对数据访问时效的真实需求决定的。我们最初定的30天热层保留期是存储团队推测的,后来和良率分析团队对了几轮,发现他们的追溯周期通常是45天,于是统一调整为热层保留45天。少一轮沟通,后面就是频繁调整策略跑任务。

第三,保留数据一致性校验流程。分布式存储在极端情况下也会出现数据不一致的问题,定期做一次全量快照校验是值得的。我们目前的节奏是每个月做一次在线数据的抽样校验,每季度做一次备份集群的完整校验,虽然耗时,但能给数据安全兜个底。

第四,给运维团队做足培训,不能只依赖原厂支持。XSKY这类解决方案相对传统存储来说比较新,运维方式也不同。我们安排了两轮内部培训,让运维同事掌握容量预测、告警处理、故障节点替换等操作,确保持续运行能力掌握在自己手里。产出线一旦跑起来,没人希望每一次小问题都要等原厂工程师到场才能处理。

做这个项目最大的感受是,存储这件事特别像产线上的地基工程,平时看不出存在感,但一旦地基出问题,上面的所有生产系统都会一起遭殃。好的存储架构应该是让业务团队根本意识不到存储的存在,所有数据按需存取、自动流转、安全可靠。从这个角度看,XSKY在12寸产线的这次实践,算是交出了一份让人心里踏实的答卷。

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进