ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

1/2.3型传感器如何实现60fps全分辨率?堆叠背照与列并行ADC解析

1/2.3型传感器如何实现60fps全分辨率?堆叠背照与列并行ADC解析

简介:这份PDF是索尼IMX577-AACK-C CMOS图像传感器的官方技术规格书,面向从事摄像头模组开发、图像算法调试与硬件选型的工程师,尤其适合需要评估1/2.3型12.3兆像素方案的专业摄影摄像、医疗影像、工业检测与安防监控项目。资源包仅含1个PDF文件,大小约2.19MB,完整收录器件结构、引脚定义、电气特性与接口时序等原始数据。文档详细列出Exmor RS背照堆叠结构、DOL-HDR原始数据输出、全分辨率60帧与1080p 240帧高速捕获、RAW12/10/8及COMP8输出格式、MIPI CSI-2四通道最高2.1Gbps每通道、双PLL与双传感器同步等关键参数,并给出三路供电与省电模式说明。已有627人学习下载,可作为硬件设计、驱动移植与性能评估阶段的一手参考,帮助读者快速核对规格边界、规避误用风险。

1. 一颗 1/2.3 型传感器,为什么把 60fps 全分辨率写进了规格书

翻规格书时,多数人先看像素数和靶面,然后翻到帧率那一页愣一下:4056×3040 的有效阵列,正常模式能跑到 60 帧,12bit 输出降到 40 帧,1080p 能到 240 帧。这个组合放在 1/2.3 型、1.55µm 单像素的尺寸上,不是靠“工艺好”三个字能解释的。它背后是堆叠式背照结构、列并行 ADC、双 PLL 和 MIPI CSI-2 四通道这几件事被同时摆到了一个功耗预算里。搞懂这颗传感器的底层机制,等于搞懂现代小靶面 CMOS 是怎么在带宽、噪声、功耗三者之间做取舍的——你调不通的帧率、对不齐的多摄同步、莫名其妙的 HDR 合成鬼影,根子大多在这几层里。

2. 堆叠式背照结构:光路和电路为什么必须分家

2.1 从“像素上方走线”到“像素下方走线”的物理翻转

传统前照式传感器的金属互连层在感光面之上,光线要穿过一层层氧化层和金属走线才能打到光电二极管,填充因子和入射角容忍度都被吃掉。背照式的做法是把晶圆减薄后从背面进光,互连层挪到感光面背后,光路不再和电路抢面积。这颗传感器标称 1.55µm 单元尺寸、有效像素 4056×3040,在 1/2.3 型靶面上做到这个密度,靠的就是背照把量子效率的损失补回来。

堆叠则是第二层翻转:把像素阵列所在的像素晶圆和负责逻辑处理的电路晶圆分开做,再用硅通孔垂直互连键合。像素晶圆只关心光电转换和读出,逻辑晶圆放列并行 ADC、时序控制、接口。分开的好处很直接——两片晶圆可以用各自最优的工艺节点,逻辑侧能上更先进的制程去压功耗和面积,像素侧保留适合模拟特性的工艺。规格书里“stacked image sensor with a square pixel array”这句话,落到实现上就是两片 die 叠在一起,中间靠大量微凸点传数据。

2.2 列并行 ADC 把转换搬到了像素列末端

高速读出的瓶颈往往不在像素曝光,而在模拟信号出阵列之后的模数转换。串行架构下所有列共用一个或少数几个 ADC,采样率被死死卡住。列并行 ADC 的做法是每一列(或每几列)配一个 ADC,像素的模拟电压一出来就地转换,整个阵列的转换是并行发生的。这样帧率上限主要由 ADC 的单次转换时间和输出总带宽决定,而不是被一个共享转换器串行排队。

这颗传感器支持片上 10bit/12bit A/D 转换,配合列并行结构,才能在 12bit 全分辨率下维持 40 帧、10bit 下维持 60 帧。位深和帧率在这里是一对直接冲突的量:同样一行像素,12bit 比 10bit 多 20% 的数据量,输出链路和 ADC 时间都要多付,帧率自然掉下来。规格书把这两个数字并列写,其实是在告诉你带宽预算的边界在哪。

2.3 像素合并与垂直子采样:用分辨率换帧率的合法手段

1080p@240fps 不是靠把整个阵列读快四倍实现的,而是靠像素合并读取和 V 方向子采样。合并读取把相邻同色像素的电荷或电压在读出阶段合并,等效增大单像素面积,既降了噪声又减了数据量;垂直子采样则按行抽取,直接少读一部分行。两者叠加,输出行数和列数都大幅下降,帧率才有空间上去。

这里有个容易忽略的点:合并和子采样改变的不只是分辨率,还有混叠特性。合并相当于在像素域做了一次低通,子采样则是直接丢行,后者在高频纹理场景下更容易出摩尔纹。规格书把这两项列为独立功能,意味着它们可以组合使用,具体组合方式由寄存器配置决定,选型时要按场景权衡,不能只看帧率数字。

3. DOL-HDR 与双 PLL:长曝光和短曝光怎么在同一帧里共存

3.1 数字重叠 HDR 的核心是“重叠”而非“拼接”

普通多帧 HDR 是拍一长一短两帧,再在 ISP 里对齐合成,运动物体在两帧间位移就会产生鬼影。DOL-HDR(Digital Overlap HDR)的思路是把长曝光和短曝光的读出在时间上重叠起来:长曝光帧还没读完,短曝光帧已经开始曝光,两路数据以 raw 形式同时输出,由后端按行对齐合成。因为两帧的时间基线被压到极小,运动鬼影显著减轻。

规格书写的是“DOL-HDR mode with raw data output”,关键词是 raw。传感器不做合成,只负责把两路不同曝光时间的原始数据按约定时序吐出来,合成策略留给平台侧。这个分工很关键:传感器内部做合成会引入不可逆的处理,后端想换算法就没余地了;输出 raw 则把灵活性留给了 ISP。代价是输出数据量翻倍,对 MIPI 带宽和内存带宽都是压力,所以 DOL-HDR 模式下全分辨率只能到 30 帧(2 帧重叠),比正常模式的 60 帧正好砍半。

3.2 双 PLL 为什么是高速接口的前提

像素控制时钟和数据输出接口时钟的需求并不一致。像素阵列的行周期、曝光时序有自己的节拍,MIPI 输出链路则要匹配 lane 速率和协议时序。如果共用一个 PLL,两者只能取折中,要么像素时序被迁就,要么接口速率上不去。这颗传感器配了两个 PLL,分别给像素控制和数据输出接口生成时钟,输入时钟 INCK 范围 6 到 27MHz,内部再倍频出 IVTCK、IOPCK 等操作时钟。

双 PLL 还带来一个实用能力:fast mode transition,也就是在运行中切换工作模式而不需要整颗传感器复位重配。帧率、位深、HDR 模式这些参数变化时,两套时钟域可以各自调整,切换的间隙被压到最小。对摄像机这类需要根据光照和场景动态调模式的设备,这个能力直接决定了切换时会不会黑屏或丢帧。

3.3 MIPI CSI-2 的带宽账要倒着算

接口是 MIPI 2lane/4lane,每 lane 最大 2.1Gbps,D-PHY 1.2 compliant。四 lane 满速是 8.4Gbps,听起来很宽,但要倒着算:4056×3040 有效像素、12bit、60 帧,原始数据率约 4056×3040×12×60 ≈ 8.9Gbps,已经超过四 lane 上限。所以 12bit 全分辨率只能到 40 帧,10bit 全分辨率才能到 60 帧——10bit 时约 7.4Gbps,落在预算内。规格书里那些帧率数字不是随便写的,每一个都能用“像素数×位深×帧率÷lane 数”反推出来,算一遍就知道哪个模式是带宽贴着上限跑的。

4. 寄存器、同步与功耗:那些让系统真正跑起来的小机制

4.1 2-wire 串口配置与 OTP 的配合

传感器通过 2-wire 串行通信配置内部寄存器,上电后主控要按顺序写一大串寄存器才能进入目标工作模式。这里有个现实问题:每次上电都重写全部寄存器,启动时间会被拉长,而且主控固件和传感器寄存器映射强耦合。规格书里那 7Kbit 的用户 OTP ROM 就是为此准备的——可以把一组常用配置烧进 OTP,上电后传感器按 OTP 内容自动加载,主控只需做少量覆盖写。

常见的实现思路是:量产阶段把镜头阴影校正参数、缺陷像素坐标、默认模式配置写进 OTP,产线标定一次,整机每次启动都省掉重复标定。缺陷像素校正(defect pixel correction)本身也在片上进行,配合 OTP 里存的缺陷坐标,坏点可以在传感器内部被邻域插值替换掉,后端拿到的就是相对干净的 raw。

4.2 双传感器同步与多摄一致性

规格书列了“dual sensor synchronization operation (multi camera compatible)”,这对多摄模组是刚需。两颗传感器如果各自用自己的 INCK 自由跑,曝光起始时刻会缓慢漂移,做立体匹配或深度计算时视差会随时间变化。同步的做法通常是让主从两颗传感器共享同一个外部同步信号(如 XVS 或外部触发),从机把自己的帧时序锁到主机上,保证两路曝光的起始沿对齐。

独立翻转和镜像(independent flipping and mirroring)在这里也有实际意义:多摄模组里不同摄像头的装配方向可能相反,如果靠后端软件翻转,会多一次内存搬运;传感器内部做水平和垂直方向的读出顺序反转,等于零成本把图像摆正。这两项功能放在一起,说明这颗传感器的定位就是多摄系统里的标准件。

4.3 功耗预算:三路电源和 ULPS 省电模式

供电分三档:模拟 2.8V、数字 1.05V、接口 1.8V。数字核心用 1.05V 是为了压动态功耗,接口 1.8V 匹配 MIPI D-PHY 的电平,模拟 2.8V 保证像素和 ADC 的摆幅与噪声余量。三路分开供电意味着 PCB 上要三套 LDO 或 DC-DC,上电时序也有要求,顺序错了可能触发闩锁或让内部复位不干净。

省电模式支持 MIPI ULPS(Ultra Low Power State),在待机时把 MIPI 链路切到超低功耗状态,而不是直接断电。对电池供电的摄像机,ULPS 让链路保持可唤醒,省掉重新初始化的时间。配合 fast mode transition,整机的待机到拍摄切换延迟能被压得比较低。

5. 避坑与排查:规格书没写但一定会踩的几件事

5.1 帧率配到了但出图撕裂

现象:按带宽算好的模式配置下去,帧率达标,但画面出现水平撕裂或首行错位。 原因:MIPI 输出时序和像素读出时序没有对齐,常见于改了 PLL 倍频参数后没有同步更新行周期寄存器,或者 embedded data line 的长度配置和实际输出格式不匹配。 解决:先用最低帧率、最短数据包跑通,确认 embedded data 和有效图像行的边界正确,再逐步提帧率;每次改 PLL 参数都重新核对行周期和帧周期寄存器,不要只改一处。

5.2 DOL-HDR 合成出现固定位置的鬼影

现象:静态场景正常,运动物体边缘有稳定的重影,且重影位置不随帧变化。 原因:长短曝光两路的行对齐偏移配置错误,或者两路的增益设置不一致导致合成权重算错。DOL-HDR 输出的是两路 raw,行对齐靠传感器内部的时序关系保证,寄存器里行偏移写错就会让后端按错误基线合成。 解决:用纯静态高对比场景先验证两路 raw 的行号是否严格对应,再检查两路增益寄存器是否按预期设置;运动鬼影如果随速度变化,多半是曝光时间比例配置问题,不是对齐问题。

5.3 多摄同步后仍有缓慢漂移

现象:双摄刚上电对齐良好,运行几分钟后视差逐渐变大。 原因:两颗传感器没有真正共享同步源,各自用自己的 INCK 自由运行,晶振频差导致帧起始沿缓慢错开;或者同步信号走了不同长度的走线,引入固定但未补偿的延迟。 解决:确认主从同步信号是同一路源、等长走线;用示波器同时抓两颗传感器的帧同步信号,观察沿对齐情况;如果频差不可避免,至少保证每帧重新同步而不是只在上电时同步一次。

5.4 上电偶发不识别

现象:冷启动时有一定概率 I2C 无应答,重新上电又正常。 原因:三路电源上电顺序不符合要求,数字或接口电源先于模拟电源建立,内部复位逻辑状态不确定;或者 PLL 锁定时间不足,主控在 PLL 稳定前就开始写寄存器。 解决:严格按规格书的电源时序上电,模拟先于数字、数字先于接口(具体顺序以规格书为准);上电后留足 PLL 锁定延时再发起首次通信,必要时读状态寄存器确认锁定。

5.5 高温下噪点明显增多

现象:常温正常,环境温度接近 60℃ 后暗部噪点上升,缺陷像素变多。 原因:规格书的保证性能温度是 -20 到 +60℃,超过这个区间暗电流上升,片上温度传感器读数偏高时如果没做补偿,缺陷校正的阈值也会失配。 解决:把片上温度传感器读数接进后端,按温度分段调整增益和降噪强度;缺陷像素表在高温下标定一次,确认 OTP 里的坐标在高温下仍然有效。

6. 从这颗传感器看小靶面高速 CMOS 的设计取舍

把规格书从头翻到尾,会发现所有参数都在回答同一个问题:在 1/2.3 型、1.55µm 这个物理约束下,怎么把带宽、噪声、功耗三者的平衡点尽量往右推。堆叠背照解决的是“同样面积下拿到更多光”,列并行 ADC 解决的是“转换不排队”,双 PLL 解决的是“像素节拍和接口节拍不必互相迁就”,DOL-HDR 输出 raw 解决的是“动态范围提升但不锁死后端算法”。每一项都不是孤立的技术炫技,而是被同一个带宽预算逼出来的组合。

取舍也很清楚:12bit 全分辨率只能 40 帧,想要 60 帧就得降到 10bit;DOL-HDR 想要低鬼影就得接受帧率减半和数据量翻倍;像素合并和子采样能换帧率,但混叠特性会变。这些不是缺陷,是设计者把边界明确写出来,让系统设计者自己去选。真正容易翻车的地方,往往不在这些明面上的数字,而在电源时序、PLL 锁定、同步信号走线这些“规格书写了但没展开”的细节上。

我自己的习惯是:拿到任何一颗传感器的规格书,先把帧率、位深、lane 数三者做一遍带宽反算,算不通的模式直接标红;然后单独列一张上电时序和同步信号的检查表,硬件调试阶段逐项打勾。这套流程救过不止一次——有一次整机偶发不识别,最后就是上电顺序里数字电源比模拟早了十几毫秒。从那以后我每次画电源树都强制走一遍时序核对,不再凭经验拍脑袋。希望帮到你。

本文还有配套的精品资源,点击获取

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进