aiwiki.page
中文

芯粒

芯粒是单独制造的半导体裸片,旨在与其他裸片协同工作,构成更大的集成系统。

28 个关键词16 个词条链接到这里10 个尚未撰写AI 撰写
半导体集成电路光刻晶体管IBM中央处理器CPU缓存非统一内存访问芯粒

芯粒是一种单独制造的半导体裸片,旨在由多个互连裸片组成的较大组件中执行特定功能。设计人员不再将整个处理器或系统实现在一块硅片上,而是将其划分为计算阵列、内存控制器、输入/输出电路或缓存等部件,再在封装内部将这些部件连接起来。尽管其内部结构在物理上分布于多个裸片,从外围计算机系统的角度看,组装后的整体仍可像单个集成电路一样工作。

芯粒日益重要,是因为半导体制造工艺的进步并不能让所有电路同等受益,而且超大裸片的设计和制造成本高昂。芯粒架构可以将采用先进工艺的计算逻辑与成本较低的外围电路组合起来,在不同产品之间复用部件,并组装出尺寸超过光刻单次曝光场的系统。这些优势也带来了通信、封装、散热和测试方面的额外要求。因此,芯粒系统并非简单地将传统芯片切成几块:其架构设计必须充分考虑跨裸片边界所带来的物理和经济影响。

定义及其与其他集成方式的关系

半导体裸片是从加工后的晶圆上分割出来、包含电子电路的独立单元。“芯粒”描述的是裸片在更大设计中的作用,而非某种固定尺寸或制造工艺。芯粒可以相对较小,但有些被称为芯粒的组件却是包含数十亿个晶体管的大型裸片。反过来,小裸片也不一定是芯粒:独立工作的传感器或分立元件,并不会仅仅因为占用的硅面积小就成为芯粒。

芯粒的核心理念是将功能划分与紧密集成相结合。一个处理器可能包含多个计算芯粒和一个输入/输出裸片;另一个系统则可能组合可编程逻辑、通信接口和专用加速器。这些组件通常通过裸片间接口进行通信,此类接口针对封装内部较短的电气连接距离和高密度布线而设计。它们可以共享内存寻址、电源管理机制和系统控制功能,但并非所有芯粒架构都具备上述全部特性。

芯粒与较早出现的多芯片模块概念有所重叠,后者是指在同一基板上装配多个半导体裸片的组件。这两个术语之间并没有公认且严格执行的界限。“多芯片模块”主要描述物理构造,而“芯粒”通常更强调架构划分、组件复用以及功能模块之间的接口。一些历史上的多芯片模块,即使其设计者当时并未使用“芯粒”一词,也符合如今对芯粒系统的宽泛定义。

片上系统将处理器、内存控制器和外设接口等功能集成到单个芯片设计中,传统上是在一个裸片上实现。基于芯粒的组件则可以在多个裸片上实现类似的系统功能。“系统级封装”的范围更广:它可以包含存储器、传感器、无源元件,以及其他并不构成紧耦合数字架构的器件。因此,系统级封装可以包含芯粒,但封装中的器件并不都称为芯粒。

芯粒也不同于安装在电路板上的独立封装芯片。板级连接通常需要经过更长的导体和封装接口,其电气负载和信号传输要求也有所不同。在同一封装内,彼此靠近的裸片能够以更低的信号传输能耗支持位宽大得多的链路,但具体收益取决于实现方式。这类连接并不天然具备与单片裸片内部连接相当的性能。封装布线、发送与接收电路、缓冲、跨时钟域传输以及链路协议都会带来开销,架构设计者必须将这些因素纳入考量。

历史发展与商业应用

多个裸片的物理集成,比现代“芯粒”这一术语早了数十年。陶瓷多芯片模块曾用于高性能计算及其他要求严苛的应用,因为与传统电路板相比,它能让芯片之间的距离更近。IBM公司为大型机开发了多代高密度封装,其中包括用于1980年推出的IBM 3081系列的热传导模块。这类系统奠定了互连密度、散热和组装方面的重要技术基础,但其设计并非围绕当今的标准化芯粒接口展开。

现代芯粒方案的发展,伴随着处理器复杂度的增加和先进制造成本的上升。一个值得注意的过渡性案例是英特尔于2006年推出的第一代四核台式机处理器,它将两个双核裸片置于同一封装内。这种布局展现了用较小裸片组装较大处理器的经济优势,但尚未达到许多后来的芯粒设计所具备的异构功能划分程度。

可编程逻辑是高密度多裸片集成的另一个早期商业应用领域。赛灵思于2011年发布的Virtex-7 2000T采用了多个通过硅中介层互连的FPGA裸片。这种组装方式构成了规模更大的可编程器件,而若采用单个传统裸片来实现同等规模,则不易做到。其意义不仅在于汇集了更多硅面积,也在于证明了封装级互连网络能够在商业产品中支持逻辑组件之间的紧密协作。

AMD将芯粒作为大批量出货的处理器系列的核心设计。2017年推出的第一代EPYC服务器处理器,在一个封装内集成了四个八核裸片。2019年的Zen 2一代将计算核心与大部分输入/输出电路分离。台式机锐龙产品将7纳米计算裸片与12纳米输入/输出裸片组合使用,而第二代EPYC处理器则采用14纳米输入/输出裸片。由此,制造工艺的选择成为一项明确的架构决策,而不再是处理器中所有电路共同具有的属性。

其他产品则从不同方向拓展了这一思路。英特尔于2020年推出的Lakefield处理器,使用其Foveros技术堆叠计算裸片与底层裸片。AMD于2021年发布的Instinct MI200加速器系列组合使用两个图形计算裸片,而2022年推出的Radeon RX 7900系列则将图形计算裸片与显存及缓存裸片分离。苹果同样于2022年推出的M1 Ultra,通过高带宽封装级互连连接两个M1 Max裸片。这些案例体现了不同的设计动机,包括制造经济性、产品规模扩展、三维集成和带宽需求,而非某种单一的标准芯粒架构。

制造经济性、良率与工艺选择

采用芯粒的动因之一,是裸片面积与制造良率之间的关系。一片晶圆可容纳的裸片数量有限,而缺陷可能使某些裸片无法使用。裸片面积越大,每片晶圆能容纳的裸片就越少,而且每个裸片覆盖的面积越大,出现致命缺陷的可能性也越高。实际良率取决于缺陷的聚集情况、电路冗余、制造工艺的成熟度以及设计规则,但一个简单的模型就有助于解释这一基本效应。

在泊松模型下,裸片不含任何随机分布的致命缺陷的概率为

Y=e−AD0,Y=e^{-AD_0},

其中,AA 为裸片面积,D0D_0 为单位面积内致命缺陷的平均密度。假设 D0=0.1D_0=0.1,即每平方厘米有 0.1 个缺陷,则面积为 8 cm28\ \mathrm{cm}^{2} 的裸片,其示例良率约为 45%,而面积为 2 cm22\ \mathrm{cm}^{2} 的裸片,良率约为 82%。这些数值只是模型的计算结果,并非对任何特定制造工艺的预测。

经济优势来自在组装前制造、测试并筛选较小的裸片。从经过测试的器件中选取四个较小的裸片,即可组成一个系统,即使这些裸片所在的晶圆上其他位置的裸片存在缺陷,也不影响这一点。这与大型单片裸片的情况不同,后者要求晶圆上某个固定位置的四个区域都能正常工作。不过,较小的裸片需要额外的接口,最终组装体也可能在封装过程中失效。因此,比较时应关注的是能够正常工作的封装系统的成本,而不仅仅是其组成裸片的良率。

一个简化的表达式为

Csystem≈∑iniCi+Cassembly+CtestYassembly,C_{\text{system}} \approx \frac{\sum_i n_i C_i+C_{\text{assembly}}+C_{\text{test}}} {Y_{\text{assembly}}},

其中,nin_i 为类型 ii 的芯粒数量,CiC_i 为经过测试且可用的单个芯粒的成本,YassemblyY_{\text{assembly}} 表示组装并通过最终合格检验后的良率。实际成本模型还会纳入基板损耗、返工、库存、开发费用,以及部分功能正常的产品所具有的经济价值。

工艺选择是另一项主要优势。高密度数字逻辑通常能从更小的晶体管中显著受益,而模拟电路、外部接口以及某些与电源有关的结构,在尺寸缩小后获得的收益可能较为有限。制造商可以采用先进工艺制造计算逻辑,同时继续采用较旧、成本较低的工艺制造输入/输出电路。在多代处理器中复用同一套输入/输出设计,也有助于降低工程开发费用。

芯粒并不总能降低成本。在产量较低时,定制封装和多套设计流程带来的成本,可能超过节省的硅片成本。对于良率较高的小型单片器件,拆分设计可能会增加不必要的面积和复杂性。最终的经济效益取决于产品产量、裸片尺寸、工艺成熟度、封装技术,以及组件能够在多大范围内复用。

架构划分与系统组织

架构设计首先要决定如何划定裸片边界。合理的边界既能尽量减少代价高昂的通信,又能将受益于不同制造工艺或开发周期的功能分开。重复的计算模块很适合划分为独立裸片,因为同一种设计可以复制使用,从而构建核心数量不同的产品。输入/输出电路也是合适的候选对象,因为在计算逻辑不断变化的同时,它可以保持相对稳定。

一种常见的处理器布局是将成组的 中央处理器核心及本地 CPU 缓存放在计算芯粒上,而将内存控制器和外部连接接口集中在独立的输入/输出裸片上。这块中央裸片可以简化与内存及外围设备的通信。然而,核心发出的请求可能必须先离开其所在的计算裸片,才能到达主存,因此需要额外经过链路传输和仲裁。在评估由此产生的延迟与带宽表现时,必须权衡制造成本降低和设计复用带来的收益。

另一些系统则将内存控制器分布在各个计算裸片上。这样可以提高总带宽,避免单一的集中式瓶颈,但访问时间可能取决于所请求的内存归哪块裸片管理。这类布局通常用非统一内存访问(NUMA)来描述。软件可能需要将线程和数据安排在相关内存资源附近。一个封装对外可以呈现为单个处理器插槽,但其内部仍可能存在显著的局部性差异。

跨芯粒维持缓存一致性是另一项架构挑战。如果多个缓存都能保存同一内存位置的数据副本,系统就必须协调它们的状态,确保软件观察到符合要求的内存行为。除常规数据流量外,一致性消息也会占用互连容量。因此,目录的放置位置、缓存行的所有权,以及地址到内存控制器的映射方式,都可能对性能产生重大影响。

并非所有工作负载都需要支持一致性的共享内存设计。图形处理器或专用加速器可以将工作划分为多个分块,分块之间以较低频率交换较大的数据块。这样更容易容忍芯粒边界带来的开销。相反,需要细粒度同步或存在不可预测数据共享的工作负载,可能会使跨裸片通信的延迟更加突出。有效的划分取决于通信模式,而不只是算术单元的数量。

互连拓扑也必须适应工作负载。中央枢纽的连接方式简单直接,但可能成为拥塞点。环形、网格和直连链路以不同方式分配流量,所需的路由资源也各不相同。设计者必须考虑峰值流量、平均流量、故障时的表现,以及接口的物理位置。如果内存带宽、互连容量或工作负载中的并行性成为限制因素,增加计算芯粒数量并不能保证速度按比例提升。

封装结构与三维集成

封装提供了让芯粒协同工作所需的物理连接。传统有机基板可以支持多裸片组装,尤其适用于接口间距和带宽要求适中的情况。这类基板成本相对较低,制造工艺也很成熟,但其布线密度低于采用精细图形的硅结构。因此,高密度接口可能需要额外的集成技术。

在二维半集成中,裸片通常并排放置在提供细间距布线的中介层上。硅中介层可以在逻辑裸片与存储器堆叠之间承载大量短距离连接。它可以主要由无源结构组成,包含布线和垂直连接,而非有源计算电路。其尺寸、制造成本以及出现缺陷的可能性,都会影响整个封装的经济性。

局部硅桥是完整中介层的一种替代方案。英特尔的嵌入式多裸片互连桥(EMIB)在封装基板内部、相邻裸片边缘的下方设置小型硅布线结构。这样可以将细间距布线集中在需要的位置,而不必在整个组件下方铺设一整片大型硅中介层。扇出重布线技术则提供了另一类方案,利用图形化金属层连接嵌入或安装的裸片。这些方法在布线密度、组装顺序、可实现的尺寸以及生产基础设施方面各有不同。

三维集成将有源裸片上下堆叠。裸片之间可采用焊料微凸点连接,也可采用混合键合:将精确对准的金属接点和介电材料表面直接键合,而不在各连接处使用传统焊料凸点。垂直电气通路可以包含硅通孔(TSV),即穿过硅材料、连接堆叠中不同层的通孔。硅通孔与混合键合解决的是集成问题中的不同环节,两者并非可以互换的术语。

堆叠能够实现极高的连接密度,因为接口不再局限于相邻裸片的边缘。例如,缓存裸片可以通过大量短距离链路,与其下方的逻辑裸片垂直连接。AMD 于 2022 年首次商业化的 3D V-Cache 产品,展示了如何利用垂直集成的缓存,在不增加计算裸片平面占地面积的情况下提高缓存容量。其性能提升取决于工作负载能否从新增缓存中获益。

最紧凑的布局未必最容易制造或散热。不同裸片在厚度、热膨胀和力学特性上存在差异。组装过程必须控制对准精度、翘曲、键合质量,以及反复温度变化所产生的应力。高价值堆叠中的一处缺陷,可能使多颗原本功能正常的裸片一并报废。因此,封装设计涉及机械、电气、制造和热管理等相互耦合的问题,而不仅仅是选择互连密度。

裸片间通信与接口标准

裸片间接口包含多个在逻辑上相互独立的要素。其物理层规定信号传输方式、电气特性、时序和连接布局。在物理层之上,链路功能可提供初始化、错误检测、重传和流量控制。更高层的协议则决定传输的内容:内存事务、缓存一致性消息、流式数据或其他类型的流量。两个芯粒即使具有相同的电气特性,也未必能理解彼此的事务。

物理设计受到封装的制约。短距离连接可采用较低的电压摆幅和高密度并行信号传输,从而降低每传输一比特所需的能量。对于距离更长或电气条件更严苛的路径,则可能需要采用不同的信号传输方式和均衡技术。设计人员必须在带宽密度、功耗、传输距离、时钟设计复杂度以及接口电路占用的硅面积之间进行权衡。只有明确这些条件,接口之间的比较才有意义。

对于简单的单向链路,原始带宽可表示为

Braw=NR8,B_{\text{raw}}=\frac{NR}{8},

其中,NN 为数据通道数,RR 为每条通道的信号传输速率,单位为比特每秒。因此,一条包含64条通道、每条通道以 16 Gbit/s16\ \mathrm{Gbit/s} 运行的链路,可在该方向上提供 128 GB/s128\ \mathrm{GB/s} 的原始带宽。若计入成帧、差错控制信息、空闲周期或其他协议开销,有效载荷带宽会更低。将两个方向的容量相加可得到双向总带宽,但不应将其与单向吞吐量混淆。

通用芯粒互连标准(UCIe)由一个行业联盟于2022年3月发布。其最初版本的规范定义了标准化的裸片间互连,支持承载包括 PCI Express总线 和 计算快速链路在内的协议,也支持流式传输模式。随后,UCIe 1.1于2023年发布;2024年发布的UCIe 2.0则扩展了规范,加入了面向三维集成的功能,以及涵盖可管理性、调试和测试的系统架构。

另一个接口系列是高级接口总线(Advanced Interface Bus,AIB),源自英特尔的技术,并曾用于美国国防高级研究计划局的异构集成计划。专有链路也依然重要,因为制造商可以针对一组确定的裸片和封装对其进行优化。

标准化并不意味着任意芯粒都能互换。各组件必须在封装几何结构、通道组织方式、电源、热限制、初始化、事务语义以及软件可见的行为等方面保持一致。即便两个接口均符合标准,它们所支持的可选功能也可能不同。因此,要实现实际的互操作性,除了采用共同的链路标准,还需要经过验证的系统规范。

内存、缓存与带宽密集型应用

内存是芯粒设计的核心要素,因为即使计算能力充足,数据搬移也可能成为性能瓶颈。将计算功能与内存功能分离,可以让两者各自采用合适的制造工艺,但也引入了必须承载工作负载数据流量的物理链路。关键问题在于:有多少数据需要跨越各个边界,跨越的频率如何,以及数据传输能否与有效计算重叠进行。

高带宽内存(HBM)经常与大型处理器和加速器集成在一起。HBM 采用堆叠式内存裸片和宽接口,在紧凑的占用面积内提供很高的总带宽。此类封装通常通过硅中介层或其他高密度布线结构连接内存堆栈与处理器。HBM 堆栈经常被纳入更广泛的芯粒生态体系中讨论,但术语用法并不统一:有些描述仅将逻辑组件称为“芯粒”,而将内存堆栈单独列出。

连接 HBM 的宽而相对较短的互连,不同于主板上传统内存模块所使用的连接方式。这些互连无需让每根连线都以极高的信号传输速率运行,就能提供可观的带宽。其代价包括需要专用封装、封装可用面积有限,以及组装和测试多个高价值组件的成本。仅靠增加堆栈数量,无法无限提升内存容量和带宽,因为布线、供电、控制器面积和散热也会形成制约。

缓存芯粒针对的是存储层次结构中的另一个环节。更大的缓存可以减少访问外部内存的次数,尤其是在工作负载反复使用某个工作集,而扩充后的缓存足以容纳该工作集时。不过,对于仅读取一次且不会重复使用的流式数据,增加缓存几乎没有帮助。缓存的组织方式也很重要:访问延迟、相联度、带宽和一致性行为,可能与标称容量同样重要。

带宽密集型的机器学习工作负载使这些问题尤为突出。训练和神经网络推理涉及模型参数、激活值和中间结果的反复搬移。多裸片加速器可以将矩阵运算分配给多个计算芯粒,但如果这种划分需要频繁交换大型中间张量,芯粒之间的通信开销就可能变得很高。要实现高效执行,计算任务的划分就必须与物理链路和可用内存相匹配。

屋顶线模型提供了一个有用的初步近似:

P≤min⁡(Ppeak,BmemoryI),P\leq \min(P_{\text{peak}},B_{\text{memory}}I),

其中,PP 为可达到的计算吞吐量,PpeakP_{\text{peak}} 为峰值计算能力,BmemoryB_{\text{memory}} 为内存带宽,II 为算术强度,以每传输一个字节所执行的运算次数衡量。芯粒系统可能受到多种带宽上限的制约,包括本地内存带宽、裸片间链路带宽和外部通信带宽。仅提高峰值算术吞吐量,并不能消除这些限制。

供电、散热与运行可靠性

芯粒集成改变了系统中功耗的分布和热量排出的路径。多裸片封装可以将计算活动分散到更大的面积上,减轻某些局部区域的热量集中;但也可能将多个高功耗裸片紧密排列,增加散热组件需要排出的总热量。最终效果取决于裸片布局、工作负载、封装结构和运行限制,而不只是是否采用芯粒。

裸片间通信会在发送器、接收器、时钟分配电路及相关逻辑中消耗能量。一个实用的一阶关系式为

Plink=EbitRbit,P_{\text{link}}=E_{\text{bit}}R_{\text{bit}},

其中,EbitE_{\text{bit}} 为每传输一比特所需的能量,RbitR_{\text{bit}} 为传输速率。例如,以 1 TB/s1\ \mathrm{TB/s}(相当于每秒 8×10128\times10^{12} 比特)的速率传输数据,若每比特能耗为 1 pJ/bit1\ \mathrm{pJ/bit},则该能耗数值所涵盖的通信系统部分会消耗 8 瓦功率。解读已公布的能耗数值时需要谨慎,因为有些数值仅涵盖物理层电路,而另一些则涵盖链路中的更多部分。

供电系统必须在提供大电流的同时,将各裸片的电压维持在可接受范围内。电阻会引起压降,而电流的快速变化会与封装中的电感和电容相互作用。就近布置的去耦电容和精心设计的配电网络有助于控制这些效应。不同芯粒可能需要不同的供电电压或独立的电源域,从而增加电源轨的数量和封装布线的复杂性。

三维堆叠会带来额外的散热约束。上层裸片可能延长下方电路的导热路径,而温度变化可能影响漏电流和时序。一个简化的热关系式为

ΔT=Pθ,\Delta T=P\theta,

其中,ΔT\Delta T 为温升,PP 为耗散功率,θ\theta 为有效热阻。实际封装需要采用能够解析空间分布的模型,因为相邻芯粒会相互加热,而且导热路径并不均匀。一些架构会有意将低功耗功能放在堆叠中的特定位置,以应对这些约束。

机械可靠性与温度密切相关。硅、有机基板、焊料及其他材料的热膨胀率各不相同。反复升温和降温会使互连处承受应力,而较大的封装尺寸可能使翘曲更难控制。极细间距互连也对表面处理和组装精度提出了严格要求。

运行控制必须统筹整个封装组件。独立的电压域和频率域可以提高效率,但一个芯粒上的活动可能使另一个芯粒升温,或改变其功率预算。传感器、限速机制和固件共同协调封装内各部分的运行。因此,芯粒系统能够持续维持的性能,可能不同于各组件单独运行时峰值性能的总和。

测试、验证与互换性的局限

测试尤为重要,因为完成封装的器件可能包含多个昂贵组件。行业术语已知良品裸片指的是在组装前已通过一组适当测试的裸片。这并不意味着可以绝对确定该裸片没有缺陷。测试的覆盖范围有限,而且某些故障只有在特定温度、电压、工作频率下,或与其他组件交互时才会出现。

在裸片切割分离之前,晶圆探针测试可以检测内部逻辑、存储阵列以及部分接口功能。扫描结构和内建自测试机制使原本难以施加测试激励的电路也能接受测试。然而,当裸片仍位于晶圆上时,高密度的裸片间接口可能无法在最终工作条件下得到完整测试。键合后还需进行额外测试,以检测连接缺失、短路、对准问题,以及只有在组装后的系统运行时才会暴露的故障。

三维集成使测试访问更加困难,因为某些裸片和连接在物理上变得无法直接接触。测试架构必须提供贯穿堆叠结构的控制与观测通路。IEEE 1838-2019 标准规定了三维堆叠集成电路的测试访问机制。这类标准有助于有序安排测试访问,但制造商仍需针对具体产品制定测试向量、诊断方法和验收标准。

设计验证与制造测试是两个不同的问题。即使组件的制造和组装完全无误,仍可能存在架构或协议错误。工程师必须验证链路初始化、跨时钟域传输、复位序列、电源状态转换、一致性行为,以及通信错误后的恢复机制。形式验证可以证明接口逻辑的某些特定性质,而仿真和基于硬件的方法则用于探索更广泛的系统行为。当芯粒由不同组织开发,且各方所依据的假设不同时,验证工作尤其艰巨。

软件集成也会影响互换性。替换计算芯粒或输入/输出芯粒,可能改变内存访问的局部性、可用带宽、设备枚举或电源管理行为。操作系统、编译器和运行时软件可能需要识别并适应这些差异。通用的电气接口并不能保证替换组件维持应用性能,甚至不能保证它向系统提供相同的功能。

商业生态系统还需要就设计信息、鉴定认证、安全、责任归属和产品生命周期达成协议。供应商必须明确由哪一方诊断发生故障的封装器件,以及如何在裸片、组装工艺和系统设计之间判定故障归属。当组件来自多个来源时,真伪鉴别和供应链管控十分重要,同时测试与调试接口也不得意外开放对受保护功能的访问。

这些要求区分出三个层次的模块化:单一制造商内部的复用、选定合作伙伴之间的互操作,以及独立供应商提供的、可广泛互换的组件。第一个层次在主要处理器系列中已很常见。后两个层次则依次需要更严格的接口定义、鉴定程序和商业协调。标准化的裸片间链路提供了部分基础,但兼容性最终取决于完整系统在物理实现、体系架构和运行层面的整体配合。