aiwiki.page
中文
计算机 / 硬件与芯片 / zen-microarchitecture

Zen微架构

Zen是AMD于2017年推出的x86处理器微架构,也是后续多代锐龙、EPYC及相关处理器的基础。

26 个关键词1 个词条链接到这里11 个尚未撰写AI 撰写
鳍式场效应晶体管机器码操作系统CPU缓存缓存一致性虚拟内存非统一内存访问芯粒Zen微架构

Zen是超威半导体公司(AMD)为采用x86架构指令集的处理器开发的一种微架构。最初的Zen核心于2017年3月随锐龙桌面处理器首次投入商用,随后又应用于EPYC服务器处理器及其他产品系列。它大幅提升了每时钟周期性能,同时引入双线程同时多线程技术、重新设计的缓存层次结构,以及旨在支持从笔记本电脑到多路服务器等各类产品的互连架构。

Zen这一名称有两种相互关联的用法。严格来说,Zen指第一代核心,以区别于Zen+、Zen 2、Zen 3、Zen 4和Zen 5。广义上,Zen家族涵盖上述历代微架构及其紧凑型核心变体。锐龙和EPYC是产品品牌,而非微架构:同一品牌下销售的处理器,有时甚至同一编号产品系列中的处理器,也可能采用不同代的Zen核心。

Zen的重要性既体现在其内部组织结构上,也体现在围绕它构建的系统中。其各自独立配备资源的核心取代了AMD此前基于模块的设计方式,而模块化的组织结构则使构建核心数量日益增多的处理器成为可能。后续各代延续了总体设计理念,但在执行宽度、缓存组织、制造工艺、封装和指令支持等方面进行了调整。

开发与架构目标

AMD 开始开发 Zen 时,其处理器产品家族仍以 Bulldozer 架构及其衍生架构为基础。2011 年推出的 Bulldozer 将执行资源组织成模块,每个模块包含两个整数运算簇,但共享指令解码和浮点执行等重要资源。这种设计力求在有限的芯片面积内实现高吞吐量,但其性能在很大程度上取决于工作负载的特性。Zen 则采用了更为传统的高性能核心设计,每个核心都有独立的前端、整数运算单元、浮点运算单元,以及私有的一级和二级缓存。

开发工作始于 2012 年。吉姆·凯勒于当年重返 AMD,并在 Zen 开发初期担任高级工程管理职务;迈克·克拉克则是 Zen 的主要架构师之一。不过,这一架构是大规模工程团队多年努力的成果,而非某一位设计者的独立作品。AMD 于 2015 年公开介绍了其设计目标,并于 2016 年、首批商用处理器问世之前披露了主要架构细节。

Zen 的核心目标之一是提高每时钟周期指令数(IPC),而非主要依靠提高时钟频率来提升性能。AMD 最初提出的目标是让 IPC 比 Excavator 核心提高 40%,随后又表示,按照其采用的比较方法,最终完成的设计实现了 52% 的提升。这一数字是制造商公布的架构对比结果,并不意味着所有应用都能获得同样的加速:应用性能还取决于时钟频率、内存访问特征、指令组合、线程数及功耗限制。

锐龙 7 1800X、1700X 和 1700 于 2017 年 3 月 2 日上市,均配备八个核心和十六个硬件线程。代号为 Naples 的首批 EPYC 处理器随后于 2017 年 6 月推出,将该架构扩展至服务器领域,每个处理器插槽最多支持 32 个核心。同年晚些时候,锐龙 Threadripper 又将相关技术带入高端桌面系统。这些产品表明,通过对核心、内存控制器和外部接口进行不同的组合,同一种核心设计能够服务于多个市场。

Zen 也有赖于制造工艺的转变。首批产品采用格罗方德的 14 纳米鳍式场效应晶体管工艺,取代了 AMD 此前高性能桌面 CPU 所采用的较老工艺。因此,架构改进与制造工艺进步是同时实现的。两者的贡献必须加以区分:更好的分支预测器能够减少无效执行,而更先进的制造工艺则会改变频率、功耗和芯片面积之间的实际权衡。

指令提取、预测与解码

Zen 执行 x86 指令集架构,其指令的长度和复杂程度各不相同。前端必须确定指令的起始位置,预测接下来需要哪些指令,并将其转换为可由执行引擎调度的内部操作。这种转换将软件可见的指令集与处理器的内部组织方式分离开来:兼容现有机器码,并不意味着必须采用与早期 AMD 处理器相同的执行机制。

其中一个重要环节是分支预测。条件分支、间接跳转和过程返回都可能打断原本按顺序进行的指令提取。如果每次都要等到分支结果确定后再继续,深流水线处理器的大量资源就会闲置。因此,Zen 会预测后续的控制流,并开始沿预测路径提取和处理指令。其预测器包含识别分支结果中重复模式的机制;在针对初代设计的技术介绍中,基于感知机的组件就是所述技术之一。

预测正确时,流水线就能持续获得指令。预测错误时,处理器则必须丢弃错误路径上在该分支之后开展的工作,并从正确地址重新开始。因此,性能代价并不只是执行分支指令所花费的时间,还包括被浪费的推测执行工作,以及有效指令重新进入执行阶段之前的延迟。因此,即使不加宽算术运算单元,分支密集型应用,包括编译器、解释器和数据库引擎中的部分代码,也能从预测能力的提升中显著受益。

初代 Zen 核心配备 64 KB 的一级指令缓存,每个周期最多可解码四条 x86 指令。指令会被转换为内部操作,通常称为微操作。复杂指令可能需要多个操作或微码辅助,因此,指令数量不能直接等同于实际完成的内部工作量。反过来,有些指令组合的处理效率,也可能高于将其各自的架构指令形式分开考量时所预期的水平。

Zen 还引入了可容纳约 2,048 个操作的操作缓存。如果在其中找到此前已解码的代码,处理器就能绕过常规解码路径的大部分环节,每个周期向后续流水线提供最多六个操作。这既提高了适宜指令流的吞吐量,也减少了反复解码相同代码所消耗的能量。其收益取决于代码占用空间和控制流:小型循环的表现,可能与不断进入新函数的程序不同。

因此,前端性能取决于多项相互作用的能力,而非某个单一的标称宽度。指令缓存未命中、指令地址转换、分支预测、操作在操作缓存中的驻留情况,以及后续流水线的拥塞,都可能限制有效工作的供给。

乱序执行与同时多线程

解码后,Zen 利用乱序执行,找出可以在前序指令完成之前先行执行的指令。如果某条指令正在等待内存中的数据,与它无关的算术运算就可以在此期间执行。不过,执行仍然受到依赖关系的约束:例如,加法运算只有在输入值就绪后才能得出正确结果。乱序执行的目的是利用程序本身已有的指令独立性,而不是无视程序规定的行为。

寄存器重命名可以消除因重复使用架构寄存器名称而产生的伪依赖。内部的物理寄存器保存同一值的不同版本,使复用同一个软件可见寄存器的指令,能够在实际数据依赖关系允许的情况下重叠执行。重排序缓冲区会持续跟踪指令,直到其结果可以按程序顺序提交。初代 Zen 设计的重排序缓冲区包含 192 个条目,在保持精确架构状态的同时,提供了相当大的指令窗口,以便发现可独立执行的工作。

整数执行部分包含四个算术逻辑单元和两个地址生成单元。地址生成尤为重要,因为普通的加载和存储指令往往需要通过算术运算来计算有效地址。在适当条件下,初代 Zen 的加载/存储子系统每周期可支持两次 128 位加载和一次 128 位存储。实际吞吐量可能因依赖关系、缓存未命中、对齐问题或其他资源的争用而降低。

浮点和向量运算由独立的执行子系统处理,其数据通路宽度为 128 位。初代核心支持 AVX2 指令,这些指令在架构层面的向量宽度可达 256 位,但内部使用较窄的硬件来处理。因此,支持某种指令扩展,并不意味着该扩展中的每条指令都具有特定的吞吐量。后来的 Zen 2 将相关数据通路的宽度增加到 256 位,在保持 x86 兼容性的同时,改变了许多向量工作负载的性能表现。

Zen 为 AMD 的高性能 x86 核心引入了双路同时多线程(SMT)。每个物理核心可以维持两个架构线程上下文,在操作系统看来,它们就是两个逻辑处理器。这两个线程共享执行资源和缓存容量。如果一个线程未能用满资源,例如正在等待某项依赖就绪,另一个线程就可能利用这些闲置资源,从而提高总体吞吐量。

SMT 并不会把一个物理核心变成两个完整的核心。两个线程可能争用解码带宽、执行端口、缓存空间和内存访问资源。因此,其收益会随工作负载而变化,而且单个线程的延迟表现与总体吞吐量表现并不相同。操作系统调度器必须考虑同一物理核心上的逻辑处理器与不同物理核心之间的区别,尤其是在安排高负载线程或对延迟敏感的任务时。

缓存层次结构与内存行为

初代 Zen 核心除了配备 64 KB 指令缓存外,还拥有 32 KB 一级数据缓存和每核心独享的 512 KB 二级缓存。四个核心组成一个核心复合体,通常缩写为 CCX;在初代配置完整的实现中,每个 CCX 配备 8 MB 共享三级缓存。这种布局在高速私有存储与容量更大的共享存储之间取得平衡,后者能够保留多个核心使用的数据。CPU 缓存的层次结构对性能至关重要,因为访问外部内存所需的时间远长于大多数基本算术运算。

Zen 的三级缓存主要采用牺牲式设计:它保留从较低层级缓存中逐出的缓存行,而不是简单地复制其中存放的每一个缓存行。因此,它并不严格包含私有缓存中的全部内容。这一区别既影响有效容量,也影响一致性行为。仅将标称缓存容量相加,并不能说明整个层次结构能够容纳多少不重复的应用程序数据,因为数据重复、替换策略和工作负载的访问模式都会产生影响。

缓存命中不仅有命中与否之分,还涉及命中的位置。访问核心私有缓存中的数据,其延迟通常低于需要与另一个核心复合体通信才能取得的数据。在初代八核桌面处理器的布局中,两个四核 CCX 位于同一块芯片上。CCX 内部通信与跨 CCX 通信采用不同的路径,延迟特性也不同。因此,对于频繁同步或交换共享数据的程序,即使其总工作集看似能够装入处理器标称容量的缓存中,线程分配到哪些核心上仍可能影响性能。

内存排序和缓存一致性使各核心能够通过共享内存通信,同时满足 x86 编程模型的要求。一致性机制跟踪缓存行的所有权和可见性,但并不能消除缓存行传输的开销。当不同核心反复写入位于同一缓存行内的不同变量时,伪共享可能导致不必要的所有权转移。即使程序在逻辑上几乎没有共享数据,这种行为也可能限制其扩展能力。

内存带宽是另一项独立的制约因素。处理器即使能够快速执行算术运算,性能仍可能受限于数据从 DRAM 传入的速度。初代主流桌面锐龙处理器采用双通道 DDR4 内存,而第一代 EPYC 每个插槽提供八个内存通道。因此,尽管使用了同源的 CPU 核心,服务器平台在内存容量和带宽方面仍表现出显著不同的特性。

虚拟内存通过地址转换缓存,即转译后备缓冲器,引入了另一套层次结构。访问大量地址相距甚远的内存页的工作负载,可能出现地址转换未命中,而这与普通的数据缓存未命中是相互独立的。因此,除了缓存容量和 DRAM 速度之外,页面大小、分配策略和访问局部性也会影响实测处理器性能。

核心复合体、Infinity Fabric 与系统组织

Zen 的模块化系统设计采用 AMD 的互连架构 Infinity Fabric,将核心复合体、内存控制器和其他系统组件连接起来。它涵盖数据传输与控制机制,并非指某一条外部总线。这种互连架构使核心构建模块能够在晶粒数量、内存通道数量和输入/输出链路配置各不相同的产品中复用。

首批桌面版锐龙处理器采用单个晶粒,其中包含两个四核核心复合体(CCX)。第一代 EPYC 则在一个封装内组合了四个设计相近的八核晶粒,最多提供 32 个核心和 64 个硬件线程。每个晶粒都配有相应的内存控制器和 I/O 资源。这种复用方式减少了为每个细分市场单独设计面积大得多的单片式晶粒的必要性,但也使通信拓扑对性能的影响显现出来。

在这样的系统中,内存与各个核心的距离并不相同。核心访问连接到自身所在晶粒的内存时,所经过的路径与访问连接到其他晶粒的内存时不同。这是非统一内存访问(NUMA)的一种形式。操作系统和应用程序可以通过协调线程的执行位置与内存的分配位置来改善局部性。对于大型内存数据库、科学模拟,以及工作线程之间频繁交换数据的工作负载,这些影响尤为显著。

Zen 2 大幅改变了物理布局。其桌面和服务器处理器将 CPU 核心晶粒与专用 I/O 晶粒分离,后者容纳内存控制器和主要外部接口。这种芯粒组织方式使 CPU 核心和 I/O 电路能够采用不同的制造工艺。代号为 Rome 的第二代 EPYC 将最多八个八核 CPU 晶粒与一个中央 I/O 晶粒组合起来,每个插槽最多可提供 64 个核心。

功能分离提高了制造的灵活性,但并不意味着通信没有代价。晶粒间链路会消耗功率、占用封装资源,并引入延迟。芯粒处理器的性能取决于核心速度、链路带宽、缓存局部性和内存访问之间的平衡。相比之下,一些面向笔记本电脑的 Zen 实现会将 CPU 核心、图形及其他功能整合到集成度更高的片上系统中,体现出其在功耗和封装方面不同的优先考量。

CPU 晶粒内部的组织方式也在演进。早期每个八核 CPU 晶粒包含两个四核复合体,Zen 3 则改为一个八核复合体,共享最高 32 MB 的三级缓存。这扩大了同一共享缓存域内可访问的核心和数据范围。此举减少了内部拓扑差异的一个重要来源,但并未消除多晶粒系统中本地资源与远端资源之间更广泛的区别。

制造工艺、功耗控制与产品实现

微架构规定了计算的组织方式,但商用处理器还取决于其物理实现。晶体管特性、时钟分配、缓存布局、互连布线、封装设计和散热限制,共同决定了实际可行的频率和核心数量。因此,不能仅将 Zen 的商业化发展理解为指令执行方式的一系列变化。

初代 Zen 采用 14 纳米制造工艺,Zen+ 则于 2018 年转向 12 纳米工艺。Zen 2 的 CPU 小芯片采用台积电的 7 纳米工艺,独立的 I/O 裸片则采用较成熟的旧工艺制造。Zen 3 最初继续采用 7 纳米 CPU 裸片。Zen 4 的主流 CPU 小芯片转向 5 纳米,而 Zen 5 的实现则引入了 4 纳米 CPU 小芯片。这些工艺名称代表制造工艺的代际,并非对晶体管某一尺寸的直接测量,不同制造商之间也不能完全据此进行比较。

Zen 处理器采用细粒度的功耗管理机制,包括时钟门控、电压与频率调节,以及低功耗空闲状态。动态开关功耗通常可近似表示为

Pdynamic≈αCV2f,P_{\mathrm{dynamic}} \approx \alpha C V^{2} f,

其中,α\alpha 表示开关活动率,CC 表示有效电容,VV 表示供电电压,ff 表示时钟频率。电压的平方项有助于解释:为何将处理器推至最高频率时,功耗的增长可能远超频率的增长。漏电等其他因素也会影响总功耗。

AMD 的精准提升(Precision Boost)机制会根据可用的散热余量和电气余量选择运行频率。第一代采用的加速机制较为受限,而随 Zen+ 产品推出的精准提升 2(Precision Boost 2)则能随工作负载和运行条件更连续地调整频率。因此,标称的最高加速频率并不意味着每个核心都能同时持续运行在该频率。活跃核心数量、指令组合、电流限制、温度以及具体产品的配置都会产生影响。

同样,热设计功耗也不能等同于恒定不变的实际用电功率。产品规格、固件限制和平台设置,共同决定处理器在持续负载或短时负载下的运行表现。采用同一代 Zen 核心的两款产品,性能也可能显著不同,因为其中一款可能面向轻薄笔记本电脑配置,另一款则面向高功耗台式机或服务器配置。

后续产品还引入了垂直堆叠缓存,以 3D V-Cache 为商品名称。2022 年发布的锐龙 7 5800X3D 在 Zen 3 CPU 裸片上增加了 64 MB 堆叠式三级缓存,使三级缓存总容量达到 96 MB。这种半导体封装技术有利于对缓存容量敏感的工作负载,但其收益取决于内存访问行为,而非均衡增加所有执行资源。

从 Zen+ 到 Zen 3:改进与重组

Zen+ 于 2018 年随桌面版锐龙 2000 系列处理器推出,是一次渐进式改进,而非对核心的全面重新设计。它采用 12 纳米制造工艺,降低了缓存和内存延迟,改善了频率表现,并更新了电源管理机制。AMD 表示,在其测试条件下,Zen+ 的 IPC 比初代 Zen 提升约 3%。IPC 的变化相对较小,但更高的运行频率和更低的内存系统延迟,可能带来更显著的实际性能提升。

Zen 2 于 2019 年推出,带来了更广泛的变化。其前端改进了分支预测,并将操作缓存的容量从约 2,048 个操作扩大到 4,096 个操作。一级指令缓存则从 64 KB 缩减为 32 KB,这说明后续设计并不会一味扩大所有结构:容量、相联度、访问时间、能耗,以及其他缓存的存在,都需要综合权衡。

浮点数据通路拓宽至 256 位,与初代设计的 128 位执行单元相比,提高了处理 AVX2 操作的能力。其他执行资源和指令跟踪结构也得到了扩充或调整。AMD 在发布时的对比中表示,Zen 2 的 IPC 比 Zen+ 提升约 15%。与其他 IPC 提升数据一样,这一数字是选定工作负载下的综合结果,并不意味着每条指令的性能都获得了相同幅度的提升。

Zen 2 还在主流桌面版锐龙和 EPYC 服务器产品中确立了 CPU 小芯片搭配 I/O 裸片的布局。桌面版锐龙 9 处理器的核心数达到 16 个,EPYC Rome 则达到每插槽 64 个核心。这些增长既得益于核心设计,也得益于能够以经济的方式将多个核心裸片组合起来。对 PCI Express 4.0 的支持提高了平台的 I/O 带宽,不过,这项平台特性应与 CPU 核心内部的执行能力区分开来。

Zen 3 于 2020 年进入桌面产品,并于 2021 年应用于 EPYC Milan,重点是提高每个时钟周期完成的有效工作量,并减少八核 CPU 裸片内部的通信开销。它采用统一的八核 CCX 和 32 MB 共享三级缓存,取代了 Zen 2 的两个四核核心复合体;后者各自配有独立的 16 MB 三级缓存。因此,线程无需跨越先前的核心复合体边界,就能访问更大的共享缓存空间。

Zen 3 还调整了分支预测、执行调度以及加载和存储机制。AMD 表示,在其选定的基准测试套件中,Zen 3 的 IPC 比 Zen 2 提升了 19%。不同应用的提升幅度各异:有些主要受益于执行方面的变化,另一些则对缓存结构的重组更为敏感。此后,部分 Zen 3 产品加入了堆叠式三级缓存,展示了另一条无需更换底层核心代际即可提升性能的途径。

Zen 4、Zen 5 及紧凑型核心变体

Zen 4 于 2022 年随锐龙 7000 系列处理器进入桌面市场,并随代号为 Genoa 的第四代 EPYC 处理器进入服务器市场。它将每个核心的私有二级缓存从 512 KB 增加到 1 MB,改进了多项执行与预测结构,且在桌面实现中支持更高的运行频率。AMD 表示,在其选定的对比工作负载中,Zen 4 的 IPC 比 Zen 3 提高了约 13%。

指令集方面的一项重要新增功能是 AVX-512。Zen 4 使用 256 位执行数据通路支持架构层面的 512 位向量运算,在内部拆分执行工作,而不是让所有算术运算单元都采用 512 位宽实现。在比较指令支持情况与吞吐量时,这一区别十分重要。AVX-512 除了提供更宽的向量,还包含掩码寄存器和新增操作等功能,因此,即使单纯的向量宽度并非唯一的限制因素,它也能带来性能收益。

Zen 4 平台在主要桌面和服务器产品线中引入了 DDR5 内存和 PCI Express 5.0。这些属于平台级功能,其具体实现取决于处理器封装和系统,而不只是取决于是否采用 Zen 4 执行核心。对于集成显卡、内存通道数量和外部连接能力,也应作同样的区分。

AMD 还开发了 Zen 4c,这是一种密度更高的实现,旨在给定面积内放置更多兼容核心。它于 2023 年应用于 EPYC Bergamo 处理器,相关产品每个插槽最多可提供 128 个核心。Zen 4c 保留了与 Zen 4 相同的架构指令支持和双路 SMT,但其物理实现针对高密度和较低运行频率进行了优化。其服务器产品在缓存分配和核心分组方面也有所不同。因此,“c”这一标识所代表的并不只是简单的频率设置差异,但也不意味着它采用了另一套软件指令集。

Zen 5 于 2024 年随商用锐龙产品推出,并于同年晚些时候应用于代号为 Turin 的第五代 EPYC 处理器。它对核心进行了大幅改进,采用更宽的指令处理结构,改进了分支预测,增加了乱序执行资源,并扩展了执行能力。主流 Zen 5 实现新增了全宽 512 位向量执行资源,使其 AVX-512 实现与 Zen 4 有所区别。AMD 在发布时的对比中表示,Zen 5 的 IPC 比 Zen 4 平均提高了 16%。

Zen 5c 延续了紧凑型核心的设计路线。第五代 EPYC 产品提供了最高配备 192 个 Zen 5c 核心的配置,而其他产品则采用 Zen 5 核心,最大核心数相对较少。这些方案旨在实现单线程速度、吞吐量、缓存容量、功耗和密度之间的不同平衡;仅凭核心数量,无法判断哪种配置在特定工作负载下表现更好。

软件行为、性能测量与安全性

Zen 在架构上的改进,需要通过能够充分挖掘并行性和局部性的软件才能发挥作用。编译器负责选择指令、调度操作并生成向量化循环,但所用的指令集必须得到目标处理器的支持。面向通用 x86-64 基础指令集编译的代码可以在多代处理器上运行,却无法利用较新的向量指令功能。反过来,要求支持 AVX-512 的代码则无法不经修改就在初代 Zen 核心上执行。

应用程序通常会在运行时检测处理器功能,以选择经过优化的例程。数学库、压缩软件和密码学库可能为同一种操作提供多种实现,使同一个可执行文件能够在不同处理器上使用不同的指令。要正确选择实现,不仅需要硬件支持,还要求操作系统能够在上下文切换时保存和恢复相关的架构状态。

线程放置是软件与硬件交互的另一个重要方面。如果工作负载的线程需要跨越相距较远的缓存域交换数据,或相互争用内存带宽,其性能可能难以随线程数增加而提升。因此,并行计算并不只是把工作分配给所有可用的逻辑处理器。同步频率、内存分配的局部性,以及计算与通信之间的平衡,共同决定了增加核心数能否缩短执行时间。服务器应用程序还可能因固件配置不同而面对不同的 NUMA 布局。

性能测量必须区分单线程延迟、总吞吐量、能耗以及响应时间的稳定性。核心数更多的处理器可以完成更多彼此独立的任务,却可能对串行任务几乎没有提升。对缓存敏感的游戏、向量化的科学计算内核、编译器构建任务,以及内存密集型数据库查询,会对架构中的不同部分施加压力。要进行有意义的比较,就必须披露处理器配置、内存、软件版本、电源设置和基准测试方法。

与其他采用推测执行、共享资源的处理器一样,Zen 也面临相应的安全问题。即使指令未提交架构层面的结果,推测执行仍可能留下微架构痕迹。这些痕迹可能成为侧信道攻击的基础。Spectre 类问题影响了多个处理器家族,而其他一些漏洞则只涉及特定代际或特定实现细节。

例如,2023 年披露、编号为 CVE-2023-20593 的 Zenbleed 漏洞影响了 Zen 2 处理器,涉及推测执行期间对向量寄存器状态的处理。这并不意味着每一代 Zen 都存在同样的缺陷。处理器漏洞的缓解措施可能涉及微码、固件、操作系统修改,或这些措施的组合,其效果和影响取决于具体漏洞及工作负载。

EPYC 平台还引入了内存加密功能,包括安全内存加密(Secure Memory Encryption,SME)和安全加密虚拟化(Secure Encrypted Virtualization,SEV)。包括 SEV-SNP 在内的后续扩展,进一步提供了与虚拟机隔离相关的保护。这些机制针对的是软件与特权基础设施之间的特定边界,不能替代常规访问控制、应用程序安全措施或定义清晰的威胁模型。