aiwiki.page
字体大小
页面宽度
中文
English中文
计算机 / 硬件与芯片 / graphics-card

显卡

以 GPU 为核心的电路板，配有显存、供电电路、散热器和接口，用于渲染图像和运行并行计算任务。

33 个关键词3 个词条链接到这里5 个尚未撰写AI 撰写
图形处理单元计算机机器学习人工智能个人电脑晶体管电能量显卡

显卡（也称视频卡、显示适配器或图形适配器）是一块电路板，上面装有 GPU、独立的显存、供电电路、散热装置和接口，使 计算机 能够为一个或多个显示器生成图像。GPU 是位于显卡中央的处理器芯片，而显卡则是插在计算机扩展槽上的完整产品。这一区别很重要：同一款 GPU 设计可能出现在显存容量、散热系统和功耗预算都大不相同的板卡上；而且，现在许多计算机使用的 GPU 直接集成在主处理器封装内，并不位于独立的电路板上。

显卡之所以重要，是因为它们所设计的渲染任务——每秒多次计算数百万像素的颜色——具有高度并行的特点。显卡的设计由大量协同工作的小型处理单元构成，这使它成为电子游戏、影视制作与可视化、科学模拟的核心部件，并且自 2000 年代末以来，也成为 机器学习 和 人工智能 的关键硬件。这一转变使原本小众的消费级部件，发展成为计算机产业中价值最高的几类处理器之一。

本词条首先介绍显卡的物理组成及其实现的渲染管线，然后解释使 GPU 高效运行的并行架构。接着追溯从早期显示适配器到可编程着色器、再到通用计算的发展历程，并讨论让程序员能够使用 GPU 的软件生态。随后介绍深度学习加速器、图形之外的应用、行业结构、供需经济学，以及高性能显卡面临的能耗与散热挑战。

硬件组成与外形规格

板卡结构

显卡是一块印刷电路板（PCB），上面装有 GPU 裸片、显存、供电电路、散热器和各类接口。裸片是执行运算的硅片部分，GPU 中负责数学运算的部分也被称为"裸片"（die）。板上的显存即显示内存，用于存储纹理、帧缓冲和模型等数据。消费级显卡通常使用围绕裸片布置的 GDDR 芯片；高端产品和数据中心设计则采用 HBM，其存储裸片垂直堆叠，通过中介层（interposer）上极宽的接口与处理器相连。

电压调节模块（VRM）是供电转换环节，一般将 12V 电压降至约 1V 至 1.5V，接近芯片的工作电压。它由 MOSFET、电感和电容组成。由于这些元件发热明显，需要单独配备散热片。电容和电感还会在电流抵达 GPU 之前对其进行滤波和平滑。

散热器通常是带风扇的散热片，也可能使用热管或液冷。在混合式设计中，液冷回路负责冷却裸片，散热片和风扇则负责显存和 VRM 的散热。导热垫用于将热量从 GDDR 显存导出，导热硅脂则把热量从 GPU 裸片传递到大型铜质散热器上。

显卡通过 PCIe 金手指与主机相连，金手指是镀金的连接器，用于将板卡与主板连接。较大的显卡还需要额外的辅助供电接口。输出接口包括 HDMI 和 DisplayPort。

显存容量、位宽与带宽

容量和带宽是两种不同的属性。容量决定显卡能容纳多少数据；带宽决定 GPU 读写这些数据的速度，当大型纹理或数据集需要在每一帧中持续流入时，带宽就显得尤为重要。带宽可以用以下公式估算：

B=W×r8B = \frac{W \times r}{8}

其中 WW 为位宽（单位为位），rr 为每引脚的等效数据速率（单位为 Gbit/s），BB 为带宽（单位为 GB/s）。部分计算器在以显存时钟而非等效速率作为输入时会额外乘以 2，因此必须先确认输入所采用的换算约定。以一块 256 位总线、等效速率为 14 Gbps 的 GDDR6 显卡为例，其最高传输速率可达每秒 448 GB。384 位总线搭配 21 Gbps 速率则约为 1008 GB/s，RTX 4090 的参数即是如此。

HBM 的不同之处在于位宽。它的超宽接口运行在较低的时钟频率下，在实现相近带宽时功耗低于 GDDR。单个 HBM 堆栈具有 1024 位接口，因此一块配备四个堆栈的显卡，其显存总线宽度将达到 4096 位。

游戏场景下的显存容量建议通常按分辨率划分。一份面向厂商的指南建议：1080p 分辨率 8 GB 即可，1440p 为 12 GB，4K 则需 16 GB 及以上。当工作集超出本地显存容量时，数据必须通过速度较慢的 PCIe 通道传输，从而导致性能下降。

独立显卡与集成显卡

独立显卡是一块单独的板卡。一篇概述中写道，独立显卡是相互独立的硬件单元，同时具备图形处理器和显存。这类显卡通过 PCIe 插槽安装，并配有专用供电接口。

集成 GPU 与 CPU 封装在同一封装内，或直接集成在同一芯片上。它没有专用显存，而是使用系统的主内存，并与微处理器共享。这种方案降低了成本、功耗和主板复杂度，但 GPU 需要与 CPU 争夺带宽。许多个人计算机和笔记本电脑同时配备集成 GPU 和独立 GPU，并根据工作负载在两者之间切换。

外形规格

台式机显卡是全长的 PCIe 板卡，通常占据两个或更多扩展槽位，并自带散热系统。笔记本电脑在历史上采用过另一种方案。移动 PCI Express 模块（MXM）是面向笔记本 GPU 的互连标准，由 MXM-SIG 制定，其目标是提供一种非专有的行业标准插座，使用户能够方便地升级笔记本中的图形处理器。但在实践中，2017 年之后的大多数笔记本已完全取消了 MXM，转而采用 BGA 焊接的 GPU。

工作站通常使用散热能力更强、经过认证驱动程序支持的 PCIe 显卡。服务器和数据中心则使用标准插槽中的 PCIe 加速卡，以及插座式模块和板载加速器。板载加速器直接安装在基板上，并通过高速互连与相邻单元相连。这类模块放弃了人们熟悉的板卡形态，换来更高的功耗上限，并采用直接液冷或高密度风冷。

作为设计约束的功耗与散热

芯片决定了性能上限，但电路板决定了这种性能能否持续发挥。大尺寸裸片集成了大量晶体管，消耗大量电能量，因此产生的热负荷十分严峻。设计者必须为裸片和显存提供干净、稳定的电流，这决定了 VRM 的布局、PCB 的层数以及接口的选择。他们还必须足够快地导出热量，以避免降频。有效的散热系统能够提升性能、延长元件寿命，并确保在高负载下不会因热节流而受到影响。因此，应当将显卡理解为围绕芯片构建的完整热学与电学系统，而不仅仅是芯片本身。

渲染管线与固定功能阶段

从应用程序到帧缓冲

显卡上的实时渲染以流水线的方式运行。CPU 上的应用程序准备顶点数据，如位置、法线和纹理坐标，将纹理和着色器程序上传到显存，并通过图形 API 提交绘制命令。随后，GPU 按固定顺序处理这些命令：顶点处理、图元装配、光栅化、片元（像素）着色和输出合并。早期硬件将其中大部分阶段实现为带有可配置参数的固定功能电路。从 21 世纪初开始，顶点阶段和片元阶段变得可编程，但整体顺序基本保持不变。

顶点处理通过将每个顶点与变换矩阵相乘，把它从模型坐标变换到与屏幕相关的坐标，并计算光照等逐顶点的量。图元装配将变换后的顶点组合成三角形，裁剪落在视景体之外的部分，并剔除背对相机的三角形。随后，GPU 通过深度除法实现透视效果，并映射到视口，使每个三角形在像素空间中都有确定的位置。光栅化决定每个三角形覆盖哪些像素，并通常利用重心坐标在三角形内插值深度、颜色和纹理坐标等属性。每个被覆盖的像素都会产生一个片元，即最终颜色的候选。

片元着色为每个片元计算颜色，通常通过采样纹理和计算光照来完成。随后，输出合并决定每个片元是否保留，以及它如何与已存储的内容结合。深度测试、模板测试和 alpha 混合都在这一阶段执行，结果写入帧缓冲。专用的光栅操作单元负责完成这些最后的步骤。由于每一帧都要处理成千上万个三角形和数百万个片元，GPU 的核心工作本质上就是尽可能快地把几何数据流转换为彩色像素网格。

固定功能操作

有些操作因为重复性强且对性能要求高，仍然保留在专用硬件中。纹理映射通过将插值得到的纹理坐标转换为纹素地址，再对采样结果进行过滤，从而把图像数据赋予表面。过滤模式包括最近邻采样和双线性采样，也包括三线性过滤和各向异性过滤，后者可以减轻斜视角下的模糊和走样。Mipmap 存储纹理的预过滤低分辨率副本，既能减少走样，也能降低获取纹素所需的显存带宽。纹理单元在硬件中处理寻址、过滤，通常还包括解压缩，因此着色器核心无需耗费运算周期来处理这些任务。

深度缓冲（Z-buffering）为每个像素存储一个深度值。新片元到来时，硬件将其深度与已存储的值比较，只有当它比已存储的值更靠近观察者时才会保留。当着色器不修改深度时，现代 GPU 会在片元着色之前提前执行这一测试，从而在不做无用计算的情况下丢弃被遮挡的片元。帧缓冲则至少保留一个屏幕外缓冲用于绘制，同时另一个缓冲正在显示器上显示。双缓冲会在选定时刻交换两个缓冲，通常与显示器刷新同步，以防止显示未绘制完整的图像时出现画面撕裂。三缓冲则增加第三个缓冲来平滑帧节奏，代价是带来一些额外延迟。

光栅化与光线追踪

光栅化是实时渲染中的主流方法，因为它将几何体投影到屏幕上，并独立处理每个图元，非常适合并行硬件。其开销大致随三角形数量和被覆盖的像素数量增长。阴影、反射和间接光等效果通常通过额外的渲染通道、预计算数据或屏幕空间技巧来近似。光线追踪则采取相反的思路：它从相机出发穿过每个像素投射光线，找到与场景的最近交点，并可能向光源或反射表面发射次级光线。包围体层次结构等加速结构使这些求交搜索保持在可接受的范围内。

路径追踪将光线追踪扩展为追踪光线经过多次反弹，并通过蒙特卡洛方法采样对各项贡献进行积分，从而得到基于物理的全局光照。由于每个像素都需要大量采样才能收敛，路径追踪图像的计算成本很高，因此实时或近实时系统通常将每像素少量采样与降噪结合使用。正是这一成本，使光栅化在数十年间一直是交互式图形的默认方法。

为了加速光线追踪的核心操作，尤其是遍历加速结构以及对三角形进行光线测试，GPU 中加入了硬件光线追踪单元。NVIDIA 于 2018 年随图灵架构推出了此类单元，并称之为 RT 核心。AMD 在 2020 年随 RDNA 2 加入了光线加速器，Intel 则在 2022 年的 Arc 图形处理器中加入了光线追踪单元。在这些单元出现之前，同样的求交测试只能在通用着色器核心上运行，速度要慢得多。如今，大多数游戏采用混合渲染：光栅化负责主可见性，光线追踪则有选择地应用于反射、阴影或全局光照。

GPU 的并行架构

GPU 与 CPU 建立在不同的取舍之上。CPU 把芯片面积用于少量大型核心、复杂的控制逻辑和大容量缓存，使每个任务都能尽快完成。GPU 则在芯片上集成数千个小而简单的核心，并接受每个核心速度较慢的事实。资料通常把这称为以延迟换吞吐量：GPU 以单个任务的延迟换取总体的处理量。只有在数据并行的工作负载中，这种设计才能发挥优势，即同一操作重复作用于海量数组。充满分支、或依赖前序结果的步骤的代码会让大部分核心闲置，这也是 CPU 在此类逻辑上仍更适合的原因。

线程束、SIMT 与流式多处理器

核心被分组为流式多处理器（SM），每个 SM 以固定大小的组来调度线程。在 NVIDIA 的设计中，这一组称为线程束（warp），通常包含 32 个线程。正常执行时，线程束中的所有线程并行执行同一条指令，这一模型通常被称为 SIMT，即单指令多线程。最好将 SIMT 理解为构建在 SIMD 硬件之上的编程抽象。硬件为每个线程束发出一条指令，其执行通道会让线程束内的所有线程共同处理它。因此，SIMT 并没有取代 SIMD，而是在保留底层 SIMD 效率的同时，把抽象围绕线程重新组织。

当线程之间在控制流上产生分歧时，这一模型就会失效。如果线程束中的一部分线程进入 if 分支，另一部分没有，硬件会先屏蔽不匹配的线程执行其中一条路径，然后再用互补的线程集合执行另一条路径。每个线程都保有自己的程序状态，但这些串行化的路径会耗费时间。当线程束中的线程为执行不同指令而相互分离，也就是所谓的线程束分化（warp divergence）时，性能通常会急剧下降。因此，程序员会尽量让相邻线程走同一条路径。

存储层级及其带宽限制

存储器按层级组织，在容量与速度之间进行权衡。最顶层是寄存器，每个线程在逻辑上拥有一组私有寄存器，其他线程无法访问。寄存器数量有限：每个线程只能分到少量寄存器，放不下的数值会被移出。如果一个线程块所需的寄存器超过可用数量，寄存器中的数值就会溢出到全局内存。

其次是共享内存，它是每个 SM 上由程序员管理的高速暂存存储器（scratchpad）。这是片上的快速存储器，可在同一线程块内的不同线程之间共享，但不能跨块共享。它比片外存储快得多，但容量小得多。有研究指出，共享内存的带宽比全局内存高一个数量级，但容量要小得多（几 MB 对比数 GB）。每个 SM 旁边有一级缓存（L1），而二级缓存（L2）由所有 SM 共享。L2 缓存是最大的片上存储器，由 GPU 上的所有 SM 共享，是数据进入 HBM 之前的最后一个快速中转站。

全局内存是最慢的一层，而带宽数据说明了它为何重要。全局内存是 GPU 设备上最慢但容量最大的存储组件，其延迟在 TLB 未命中时约为 1000 个周期，TLB 命中时约为 350 个周期。带宽同样有限。有一项针对 A100 的比较指出，其计算单元可达到数百 TeraFLOPS，但全局内存带宽仅限于约 1.5–2 TB/s。因此，内核必须在共享内存和寄存器中复用数据，否则算术单元就会因等待操作数而停顿。

调度与延迟隐藏

由于全局内存延迟非常高，GPU 并不试图缩短它，而是把它隐藏起来。每个 SM 同时驻留着大量线程束，其调度器在每个周期都会挑选一个操作数已就绪的线程束。当某个线程束发出一次访存并需要等待数百个周期时，调度器会切换到另一个线程束，而切换的代价很小，因为每个线程束的寄存器状态都保留在片上。CPU 采取相反的策略，依靠大容量缓存来避免等待。CPU 高度依赖其多级缓存来维持低延迟，而 GPU 则把大部分晶体管用于计算而非缓存，从而使其即使在从内存取数据存在延迟的情况下，也能处理并行计算。足够多的驻留线程束可以在这些等待期间让算术单元保持忙碌，不过，如果内核的并行度过低，或每个线程占用的寄存器过多，就无法填满 SM。

芯片内的专用单元

除通用核心外，每个 SM 还包含固定功能的硬件。加载/存储单元（load/store units）负责处理内存请求，特殊函数单元则用于计算倒数、三角函数等运算。纹理单元执行图像数据的过滤采样，它是图形工作的遗留产物，但在使用纹理内存的计算任务中，它仍保留在芯片上。

对机器学习而言，最重要的新增单元是张量核心。张量核心使用混合精度加速这些乘法运算，从而大幅缩短训练时间。一个张量核心可以在单次操作中完成小矩阵块的乘法，这比在普通核心上逐个发出相同的乘积运算效率高得多。光线追踪单元用于加速光线与场景的求交测试，是放置在着色器核心旁边的另一种固定功能逻辑示例，相关内容将在渲染一节中讨论。

起源：从显示适配器到3D加速器（1981–1999）

个人电脑中的图形硬件最初只是一种简单的显示设备。1981年，IBM公司推出了单色显示适配器（MDA），专为在专用显示器上显示清晰的文字而设计；同年还推出了彩色图形适配器（CGA），这是该公司为IBM PC推出的第一款彩色显卡。即使以当时的标准看，CGA的色彩和分辨率也都比较有限，但它却成为事实上的显示标准。MDA在商务场合更受欢迎，因为那里文字比颜色更重要。增强图形适配器（1984年）取代了CGA，而1987年推出的视频图形阵列（VGA）确立了分辨率和色彩标准，此后多年，PC软件和显示器都是围绕这一标准设计的。

直到20世纪90年代初，这些显卡的功能基本上仅限于显示本身。它们的主要任务是保存帧缓冲区（即存储发送到屏幕上图像的内存），并在处理器发出指令时绘制简单图形。几乎所有运算都在CPU上完成。CPU负责变换几何图形、把三角形光栅化为像素并填充纹理。《毁灭战士》（Doom）以及后来的《雷神之锤》（Quake）完全依靠处理器通过软件渲染，其中《雷神之锤》是最早需要浮点运算支持的游戏之一。因此，当时的硬件加速意味着把特定步骤从处理器上卸载下来，而不是取代整个渲染过程。

1996年发布的3dfx Voodoo是第一款被广泛采用的消费级3D加速器。其SST1架构由两颗专用且不可编程的芯片组成，各自拥有独立的显存。帧缓冲接口芯片负责深度（Z缓冲）测试、混合运算以及颜色和深度缓冲区的处理；纹理映射单元则对存放在自身显存中的纹理进行双线性和三线性过滤。顶点处理仍由CPU完成：CPU进行矩阵乘法、剔除和裁剪三角形，然后通过PCI总线把屏幕空间中的三角形发送给显卡。Voodoo的渲染质量和速度使它成为竞争产品的参照标准。其专有的Glide接口也意味着，许多早期3D游戏必须为3dfx硬件单独发布版本。

NVIDIA的GeForce 256于1999年8月31日发布公告，10月11日正式上市，它将变换与光照（T&L）功能集成到了显卡芯片本身。变换与光照是指确定多边形相对于摄像机的位置，以及光线如何照射到多边形上的计算，此前这些工作要么由CPU完成，要么由昂贵的专业显卡完成。NVIDIA将该产品描述为集成了变换、光照、三角形设置和渲染引擎的单芯片处理器，并将这款芯片宣传为首款"GPU"。这一术语此前已有先例：1997年，3Dlabs曾将其可编程的Glint Gamma T&L引擎称为"几何处理单元"。关于这一名称应具有多大的分量，各方看法不一，因为NVIDIA的区别在很大程度上只是营销上的说法。GeForce 256采用四条像素管线，完全兼容Direct3D 7，后来还推出了DDR显存版本。

在这一时期，3dfx、NVIDIA和ATI等厂商之间的竞争促使业界逐渐摆脱私有接口。开发者越来越多地转向标准应用程序编程接口（API），尤其是微软DirectX中的Direct3D和OpenGL，而不再为每款显卡各自的库编写代码。硬件T&L本身就是这一转变的例子，它被纳入Direct3D渲染管线，成为其中的一项功能。到这个十年结束时，一块显卡的价值更多取决于它执行标准渲染管线的效率，而较少取决于厂商的私有软件，这为下一时期的可编程着色器奠定了基础。

可编程着色器与统一架构（2000—2008年）

2001年之前，消费级显卡上负责变换顶点和为像素着色的各个阶段都是固定功能电路。软件只能在其内置选项中做选择，无法改变计算本身。这一转变始于英伟达在2001年初推出的那一代GPU。2001年2月发布的GeForce3（NV20）把可编程顶点着色器和像素着色器引入了GeForce系列以及消费级图形加速器。每块芯片包含一个顶点单元和四个并行的像素单元，开发者可以把小型程序加载到其中。启用后，这些着色器程序会取代流水线中对应的固定功能阶段。其背后的标准是微软的DirectX 8.0，它引入了着色器模型1.0（Shader Model 1.0），规定了可编程的顶点和像素着色器，即开发者可以编写代码，精确控制几何体如何变换，以及每个像素的最终颜色如何计算。

两类单元的用途各不相同。顶点端让应用程序可以把几何处理工作从CPU转移出去，开发者可以在显卡上而不是CPU上处理几何数据。例子包括面部动画或蒙皮等变形效果，光照、着色、凹凸贴图，甚至运动模糊和逼真的毛发。像素端负责表面外观，支持多种效果，包括逼真的阴影和反射性凹凸贴图。当时英伟达的营销重点强调模拟现实的材质和表面。早期演示，例如在2001年东京Macworld大会上实时渲染的皮克斯作品《Junior Lamp》和id Software的《毁灭战士3》（Doom 3），展示了新硬件的能力。GeForce 3还增加了多重采样抗锯齿，并提升了整体渲染过程的效率。

顶点与像素硬件彼此分离存在结构性缺陷。顶点着色器通常需要比像素着色器多得多的指令，因此在两者之间固定划分硬件同样代价高昂：如果工作负载偏向其中一类，另一组着色器就可能闲置。随着制造工艺进步，这种区分的重要性下降，设计者转向统一着色器模型。在统一设计中，同一组着色器处理器可以运行任何类型的程序，因此GPU能够把算力重新分配给当前的工作负载。在几何负载较重时，系统可以把大部分计算单元分配给运行顶点着色器和几何着色器；在顶点负载较轻而像素负载较重时，则可以把更多计算单元用于运行像素着色器。

第一款商用统一架构设计来自ATI而非英伟达。ATI科技（ATI Technologies）在其为Xbox 360开发的硬件上引入了统一架构。英伟达随后迅速跟进，推出了Tesla架构。英伟达的GeForce 8800 GTX于2006年11月8日发布，基于G80芯片，被宣传为业界首款完全基于统一架构、兼容DirectX 10的GPU。它采用大规模并行的统一着色器设计，包含128个独立的流处理器，运行频率为1.35 GHz。每个处理器都可以被动态分配用于顶点、像素、几何或物理运算。该架构还改变了硬件执行的指令集：Tesla的流处理器是同质的通用浮点处理器集合，而不是独立的像素单元和顶点单元。AMD随后在2007年推出了自家的统一架构PC产品，即R600系列。关于PC硬件首次上市的确切先后顺序，各方说法不一，因此讨论"首款"时应结合具体产品和API来看。

Direct3D 10也将这一变化确立为规范。它引入了几何着色器作为第三个可编程阶段，并且整个流水线中的着色器都遵循同一套通用模型。可编程性随之带来了更丰富的视觉效果，包括更可信的光照、表面材质，以及在场景渲染完成后应用的屏幕空间后期处理。

同样的灵活性也扩大了图形工作负载的需求与硬件能力之间的差距。用于光照运算和纹理操作的着色单元，在统一之后成为一大批可以分配给其他计算任务的浮点处理器阵列。想要运行模拟或其他非图形代码的开发者，不得不把自己的工作伪装成着色器程序。这种压力推动了随后的通用计算探索，其中包括2007年推出的CUDA。

GPGPU与编程生态

从着色器到通用计算

GPU最初是通过图形接口编程的。在可编程管线出现之前，想利用图形硬件的科学家必须深入了解渲染管线，并把自己的问题改写成绘制操作，这严重限制了其普及。21世纪初可编程着色器问世后，研究人员发现同一硬件也能加速线性代数、矩阵乘法、线性方程组求解器、流体求解器以及分子动力学计算。早期常见的技术是“乒乓”渲染：两张纹理交替充当读取和写入目标，使一个着色器通道的输出成为下一个通道的输入。使这一切成为可能的着色语言，发展脉络始于斯坦福的实时着色语言，之后衍生出NVIDIA的Cg，再到微软的HLSL和OpenGL的GLSL。Brook项目通过为C语言扩展GPU相关声明来隐藏着色器的复杂性，它直接启发了NVIDIA后来的平台。

CUDA及其编程模型

NVIDIA的CUDA平台于2006年11月发布，2007年正式推出。它允许程序员使用带有并行内核扩展和显式设备内存管理的C或C++编写代码，完全绕过图形API。内核是由主机CPU启动、由大量线程执行的函数，每个线程通过内置的索引变量选择自己要处理的数据。线程被组织成线程块，线程块再组成网格。在当前的GPU上，一个线程块最多可包含1024个线程，同一线程块中的所有线程都运行在同一个流式多处理器上，这也限制了它们能共享的资源数量。同一线程块中的线程可以通过共享内存协作，共享内存的生命周期与线程块相同；线程还可以调用屏障同步函数，确保所有线程到达之前没有任何线程继续执行。每个线程还拥有私有的本地存储，所有线程都可以访问全局设备内存。硬件以32个线程为一组（称为warp）执行线程，程序员在调优性能时必须考虑这一细节。

开放替代方案与可移植性

CUDA这一专有模型的主要竞争者是OpenCL，它是一个面向GPU、CPU及其他加速器的开放并行编程标准。由Khronos Group维护的Vulkan提供了计算着色器，可用GLSL或HLSL编写，并编译为SPIR-V中间表示。它能在NVIDIA、AMD、Intel以及移动端厂商的硬件上运行，但对厂商特定矩阵单元的直接访问能力较弱。AMD的ROCm平台于2016年首次发布，支持HIP，这是一种语法与CUDA高度相似的C++方言，AMD还提供了将CUDA源码转换为HIP的工具。不过，可移植性仍不完善。源代码通常只需少量修改即可迁移，但性能往往依赖于特定架构的调优，一些分析人士认为OpenCL并不适合现代AI工作负载。clspv和clvk等转换项目则尝试在Vulkan之上运行OpenCL。

函数库、编译器与软件成熟度

多数科学家并不亲自编写内核，而是依赖封装了常见操作的函数库：NVIDIA硬件上的cuBLAS、AMD硬件上的rocBLAS等BLAS例程，可分派到两者之一的hipBLAS层，以及rocFFT、rocSOLVER等快速傅里叶变换和稠密求解器库。深度学习框架也建立在类似的软件栈之上，这正是同一套高层API能够面向不同厂商硬件的原因。在这些函数库之下，编译器和驱动层负责把高层代码翻译为设备指令。例如，ROCm在统一的驱动栈之上构建了HIP、OpenMP和OpenCL，而SPIR-V则作为一种可移植的中间形式，可以再降级为特定厂商的指令集。软件成熟度往往具有决定性作用。2026年的评论者普遍将CUDA视为AI与机器学习领域事实上的标准，认为其工具链和函数库的深度带来了切实的性能优势，同时也承认ROCm已经缩小了差距。对许多开发者而言，这种生态锁定的代价需要与厂商自有平台的性能和工具链放在一起权衡。

深度学习与数据中心加速器

神经网络为何适合 GPU

神经网络中的大部分运算可以归结为大规模矩阵乘法，而且每一层中的许多乘积彼此独立。这种结构与 GPU 的宽度并行架构相契合，因此从 2010 年代初起，GPU 便成为训练深度学习模型的标准硬件。随后，厂商又为矩阵运算加入了专用单元。张量核心（Tensor Core）是 NVIDIA GPU 中用于加速矩阵乘加运算的专用硬件单元，与传统核心不同，它能够并行处理整个矩阵分块。A100、H100、B200 等数据中心芯片围绕这些计算单元设计，因此其设计重点与游戏显卡有所不同。NVIDIA 的数据中心 GPU，如 A100（Ampere）、H100（Hopper）和 B200（Blackwell），专为深度学习而设计，利用张量核心执行矩阵乘加运算。

低精度格式与吞吐量

低精度数值格式以数值精度换取速度和显存节省，选择何种格式是一项核心设计决策。FP16 包含 1 位符号位、5 位指数位和 10 位尾数位，其较窄的指数范围使溢出成为实际风险。BF16 包含 1 位符号位、8 位指数位和 7 位尾数位，其数值范围与 FP32 一致，因此通常在训练中更加稳定。实践中，BF16 比 FP16 更安全，因为它与 FP32 的指数范围相同，溢出极为罕见。FP8 则更为激进，分为 E5M2 和 E4M3 两种变体，在动态范围与精度之间提供了不同的权衡选择。

性能提升相当可观。NVIDIA A100 借助张量核心，在 FP16/BF16 计算中可达约 312 TFLOPS，而标准 FP32 仅约 19.5 TFLOPS。各代产品对低精度的支持逐步增强：A100 引入了 TF32 格式，并增强了对 FP16 和 BF16 的支持；H100 则通过 Transformer Engine 加入了 FP8 支持。该引擎以 FP8 执行矩阵乘法，同时以更高精度累加结果。FP8 训练更难做好，其结果可能取决于精细的缩放和超参数调优，因此实践者常将主权重和对精度敏感的层保留在较高精度中。

显存带宽与互连

数据中心加速器将强大的计算能力与极快的显存相搭配。其高带宽显存堆栈位于封装之上：H100 SXM 的带宽标称为 3.35 TB/s，B200 配备 192 GB HBM3e 显存，带宽达 8 TB/s。当多块 GPU 需要交换梯度和激活值时，带宽的重要性尤为突出。NVLink 是 NVIDIA GPU 专用的互连技术，其设计旨在解决 PCIe 的带宽限制，因为在 GPU 加速应用中，PCIe 常被观察到是数据传输的瓶颈。作为对比，典型的 PCIe 5.0 x16 插槽提供 128 GB/s 的双向带宽。第四代 NVLink 为每块 H100 加速器提供 900 GB/s 的 GPU 间互连带宽。Blackwell 世代进一步将每块 GPU 的双向吞吐量提升至 1.8 TB/s，可在多达 576 块 GPU 之间实现高速通信。

因此，大型集群采用分层的连接结构。服务器内部的通信由 NVLink 承担，服务器之间的通信则由网络结构承担。采用 RDMA 的 InfiniBand 为连接多台服务器、组成大规模统一训练集群提供了快速、低延迟的网络。此外，NVLink 并非完全均匀：如果两块 GPU 之间没有直接的 NVLink 连接，它们之间的通信就必须经由中间的 GPU 中转。

训练与推理

训练和推理对同一硬件提出了不同的要求。训练需要在完整数据集上反复进行前向和反向传播，有时持续数天。GPU 必须在整个过程中维持峰值浮点运算吞吐量，同时显存需要同时容纳模型参数、梯度、Adam 优化器状态和中间激活值。推理则是另一种工作负载：每个请求只需执行一次前向传播。GPU 必须尽量缩短首个 token 的生成时间，并在并发请求下维持每秒生成的 token 数。由于每次前向传播都要重新加载权重，实际吞吐量更多取决于数据传输速度，而非张量核心的乘法速率。因此，针对推理优化的配置通常显存较小、功耗较低，有时还支持 FP8 或 INT8 等低精度格式。尽管其峰值 FLOPS 较低，但单次请求的成本往往更优。随着推理模型生成的输出越来越多，两者的界限正在模糊，推理已不总是轻量级的工作负载。

服务器加速器与消费级显卡

服务器加速器与消费级显卡的区别不仅在于原始速度。同一型号可能有多种变体：根据资源约束和系统用途，A100 GPU 的节点内互连方式也有所不同（SXM 与 PCIe）。SXM 模块设计为直接安装在服务器主板上，并通过 NVLink 相互连接，而 PCIe 卡则插入普通的扩展插槽。机架级系统则延续了同样的思路：NVIDIA 的 NVLink Switch 域可以将 72 块 GPU 连接成一个高带宽的“孤岛”。数据中心产品还依赖企业级驱动程序和成熟的软件栈，例如 CUDA。其散热和显存设计也是围绕机架中的长期持续运行来确定的，而非仅面向单台桌面机箱。

图形之外的应用

使GPU适合渲染的那些特性，即核心数量多、各核心结构简单、显存带宽高，以及能够对大规模数据阵列同时施加同一操作，同样适用于许多科学计算任务。随着并行计算的成本降低到可以在图形领域之外普及，这些学科开始采用GPU。

在科学模拟中，分子动力学（MD）通过反复应用牛顿运动定律来推进原子的位置和速度，其中受力计算占据了大部分运行时间。AMBER、GROMACS、NAMD、OpenMM和LAMMPS等软件包现在都在GPU上运行这些计算。报告中的加速效果很大程度上取决于代码、模拟体系和对比基准。一篇2019年的综述指出，在一块较旧的GPU上，GROMACS的运行速度约为单个CPU核心的十倍；而AMBER的加速超过五十倍，原因在于它将受力计算和积分过程都保留在显卡上，从而避免了每个时间步在GPU与主机内存之间传输数据。气候与天气模式以及天体物理代码也遵循类似的模式，因为网格更新和成对引力相互作用能够自然地分配到成千上万个线程中并行执行。

在生物信息学中，最引人注目的例子是蛋白质结构预测。AlphaFold这类系统是深度神经网络，其计算主要由矩阵运算构成，因此它们通常在包括GPU在内的加速器上训练和运行。序列比对、基因组分析以及用于药物筛选的分子对接等其他任务也有GPU实现，不过其加速效果随问题规模差异很大。

医学成像是另一个长期应用领域。在计算机断层扫描中，原始投影数据量很大，而能够降低噪声和伪影的迭代重建方法计算量繁重，这一成本曾延缓了其临床应用。这些算法核心的反投影和正投影步骤具有高度并行性，因此GPU使其变得切实可行。但仍存在一个限制：显卡的显存远小于主机的系统内存，因此大体积数据必须分割成块，逐块处理。在磁共振成像方面，Stone及其同事在2008年的一项研究报告称，GPU加速使一种先进的重建方法具备了临床应用的可行性。在一块Quadro级GPU上，重建耗时数分钟，而四核CPU的速度约慢十三倍；此外，该先进方法的误差约为12%，而传统重建方法的误差为42%。

实时视频与感知构成另一类应用。GPU包含用于视频编码和解码的专用固定功能硬件，并能够处理滤波、降噪和升频等实时图像处理任务。在机器人学和驾驶辅助系统中，执行目标检测和分割等计算机视觉任务的神经网络运行于嵌入式GPU模块上，而这些模块必须在严格的功耗和散热限制内工作。例如，一篇2025年的预印本论文在一块NVIDIA边缘计算模块上同时运行了CT到MRI的图像生成和诊断检测，报告帧率最高可达每秒170帧，约为原始模型吞吐量的两倍。

电影和动画渲染是最突出的离线应用。路径追踪为每个像素追踪大量光路，现已成为最常用的真实感渲染技术，并被广泛用于动画长片。诸如Sony的Arnold等生产级渲染器（用于电影《天降美食》的制作）帮助大多数主要的计算机动画电影制作转向路径追踪渲染。实时游戏每个像素只能负担几条光线，而电影的一帧画面可能每个像素使用数千条光线、耗时数分钟甚至数小时，因此离线渲染器更看重吞吐量而非延迟，并依赖GPU来提供算力。NVIDIA Omniverse RTX渲染器等工具的多GPU支持进一步缩短了渲染时间；该厂商称，在配备最多16块GPU的单一系统上，其可实现接近线性的加速。神经降噪器也经常被用来消除低采样数带来的噪点。

参考来源

行业结构与供应链

独立显卡是一个高度集中的市场。Jon Peddie Research 的数据显示，2026 年第一季度，英伟达占附加板卡出货量的 90%，AMD 占 8%，英特尔占 1%。在独立消费级 GPU（附加板卡）中，据 Jon Peddie Research 统计，2026 年第一季度英伟达的出货占比为 90%，AMD 为 8%，英特尔为 1%。该统计仅涵盖台式机机箱中的独立显卡，因此不包括笔记本电脑和集成芯片。其他机构报告的桌面游戏领域 AMD 份额要高得多，这说明这些份额对统计口径非常敏感。截至 2026 年初，AMD 在全球桌面游戏市场的份额约为 15%–20%。

AI 数据中心加速器市场的集中度更高。对英伟达在 2026 年 AI 加速器收入中占比的估计在 75% 到 81% 之间；一项统计显示，2026 年第一季度其在通用 AI 数据中心收入中占 87.4%。AMD 的份额较小，英特尔的 AI GPU 份额约为 1%。谷歌、亚马逊等超大规模云服务商自研的加速器占据了其余大部分份额。英伟达、AMD 和英特尔的发展重点也各不相同：英伟达的收入已大幅转向数据中心，AMD 同时竞争游戏和服务器 GPU 市场，而英特尔正试图建立一项半导体代工业务。

大多数主要设计商都采用无晶圆厂模式。英伟达和 AMD 负责芯片设计，但晶圆生产交由外部代工厂完成。台积电是全球最大的半导体代工厂，为英伟达、AMD、苹果、博通等其他公司设计的芯片代工，自身并不以品牌销售芯片。截至 2026 年第一季度，台积电按收入计算约占纯代工市场的 73%，在先进制程制造中的份额更高。其领先优势源于 3 纳米和 2 纳米工艺。英特尔的情况不同，其代工业务的需求几乎全部来自自身。结果是，只有少数企业能够在最新制程上制造芯片，因此单一供应商的产能决策就可能影响整个 GPU 行业。

制造只是瓶颈之一。顶级 AI 加速器依赖先进封装，尤其是台积电的 CoWoS 技术，它将逻辑芯片裸片与存储器堆栈集成在同一基板上。目前所用的最先进封装方法称为 Chip on Wafer on Substrate，即 CoWoS，Rousseau 表示其产能正以惊人的 80% 年复合增长率增长。AI 巨头英伟达已预订了台积电可用的最先进产能的大部分，而台积电是封装领域的产能龙头。关于具体份额的估计各不相同：一份报告称英伟达已锁定台积电约 60% 的先进封装产能，另一份则称英伟达到 2027 年前将占用台积电一半以上的先进封装产能。由于封装环节极为紧张，一些观察人士认为，如今制约 AI 加速器产量的关键因素已是先进封装，而非晶圆制造。台积电也已将部分工作外包给外部公司，其亚利桑那州先进封装工厂预计最早要到 2028 年才能进入量产，在此之前供应将持续紧张。

存储器是第二个瓶颈，高带宽存储器（HBM）市场由少数供应商主导。据报道，2025 年底至 2026 年初，Hopper 架构数据中心 GPU 的合同价格大幅上涨，主要原因是三星和 SK 海力士将 HBM3e 存储成本转嫁给客户，而非 GPU 裸片短缺。存储芯片厂商在 HBM 上的利润率高于消费级显卡存储器。当这些公司优先将晶圆产能分配给利润高得多的 HBM 时，从笔记本电脑内存、显卡显存（VRAM）到游戏主机系统内存等其他所有存储产品都会变得更加稀缺、更加昂贵。缓解也很慢，因为美光和 SK 海力士新建的存储器产能最早要到 2027 年才能量产。这些压力已传导至消费端价格：到 2026 年第二季度，PC 厂商报告 GDDR7 存储器价格上涨了约 15%–20%。更广泛的成本影响将在市场和供给与需求部分讨论。

板卡合作伙伴位于设计商与买家之间。他们采用设计商的参考板，加入自己的印刷电路板、散热器和出厂设置，然后以自有品牌销售成品显卡。由于存储器在成本中占比很大，显卡厂商和板卡合作伙伴在显卡上架之前就已面临成本上涨的压力。软件是另一项竞争优势。2026 年的 AI GPU 市场以英伟达压倒性的收入主导地位为特征，这得益于其向系统级供应商的转型，以及 CUDA 生态无可匹敌的成熟度。围绕 CUDA 构建工具的开发者面临转换成本，竞争对手还必须在驱动质量和游戏端支持上追平。有分析认为，驱动成熟度、光线追踪优化以及游戏端的软件支持，仍是 AMD 提升市场份额的主要制约因素。

市场周期、价格与需求

游戏市场：历史核心

在大部分历史中，GPU 市场主要依赖消费级游戏。每一代产品都有新的上市定价，被替代的旧型号随后降价。追踪网站注意到，后继产品临近发布时，当前显卡会流入二手市场，价格随之下跌。此后，游戏在厂商营收中的占比有所缩小。据一位分析师的说法，2020 年第二季度，游戏业务占英伟达总销售额的 51%，数据中心业务占 25%。

挖矿热潮与退潮

加密货币挖矿带来了第二类需求，其不可预测性远超游戏市场。Jon Peddie Research 的分析师估计，2021 年第一季度出货的 GPU 中有 25% 流向了加密货币矿工和投机者。供不应求使二手价格远高于标价。据报道，2022 年 1 月，一块 RTX 3080 的转售价为 1613 美元，而其零售价为 699 美元。

随后的回落同样突然。《Tom's Hardware》报道，2022 年 5 月显卡价格下跌了 15%，此前几个月也出现了类似的逐月下跌。以太坊转向权益证明机制后，以太币挖矿便彻底退出了显卡领域。据报道，到 2022 年 6 月底（以太坊合并之前），显卡价格相比 1 月已下跌约 57%。专用挖矿硬件也没能保护厂商。英伟达原本用于分流矿工、使其不与游戏玩家争抢显卡的 CMP 挖矿卡，在 2022 年的收入已降至可忽略的水平。这场退潮也波及了游戏业务收入。在截至 2022 年 7 月的季度，英伟达的游戏收入同比下降 33%，主要原因是宏观经济逆风下，向渠道合作伙伴的出货量减少。

转向数据中心

2020 年代带来了结构性变化。一份关于英伟达最近一个财年业绩的报告显示，其数据中心年收入为 1937 亿美元，而全财年游戏收入为 160 亿美元，同比增长 41%。另一项分析显示，在最新公布的季度中，游戏业务仅占超过 680 亿美元营收的 5.5%。

这一转变也改变了采购方式。云服务商和 AI 开发者大量批量采购，厂商也相应地分配稀缺产能。据报道，英伟达曾考虑削减中端产品线部分产品 30% 至 40% 的产量，以便优先生产利润率更高的产品和 AI 加速器。该公司还警告，由于数据中心的承诺订单以及全球内存短缺，2026 年上半年 GPU 供应将受到限制。对 AI 产业而言，消费级显卡已成为次要产品，其供应取决于数据中心的优先级。

2026 年涨价与内存短缺

2026 年初，据报道英伟达和 AMD 正准备分阶段提价，主要原因是显存成本上升。AMD 预计率先于 1 月提价，英伟达则于 2 月跟进。根本原因在于内存，而非 GPU 芯片本身。随着 AI 数据中心部署速度超过供应增长，GDDR7、GDDR6 和高带宽内存的需求都在上升。据报道，部分高端显卡的内存成本占物料清单（BOM）的比例超过 80%。另一个促成因素是，许多 GPU 厂商在 2025 年之前签有固定价格的内存供应协议，这些协议现已基本到期，续约价格大幅提高。

年内晚些时候，AMD 通知合作伙伴，从 8 月起 Radeon GPU 和 GDDR6 内存套件的价格将至少上调 10%。英伟达则主要将其涨价归因于内存芯片成本上升。

各方的预测和实际涨幅差异很大，来源的统计口径（标价、街头实际成交价，或地区差异）也各不相同：

  • 《Tom's Hardware》的一篇报道认为，预期涨幅的下限约为 10%。
  • 2026 年 9 月审阅的供应链数据显示，显存在 16GB 或以上的 RTX 50 系列显卡涨幅可能为 15%至 20%，而 AMD 和英伟达其他与内存相关产品的涨幅可能为 10%至 15%。
  • 另一项估计认为，自 2025 年末以来，全球范围内的价格涨幅约为 19%至 20%。
  • 一项欧洲调查显示，三个月内英伟达 GPU 价格上涨了 41%，AMD 价格上涨了 28%。
  • 在极端情况下，据该报道，英伟达旗舰产品 GeForce RTX 5090 在 2026 年后期的价格可能高达 5000 美元。

街头价格也体现了标价与零售价之间的差距。有一个来源将 RTX 5090 在 2025 年 1 月的 1999 美元首发价，与 2026 年 7 月亚马逊上 4329 美元的售价进行了对比，部分板卡厂商的配置售价超过 5000 美元。2026 年 6 月，原告对三星、SK 海力士和美光提起了联邦反垄断诉讼，指控这三家公司共谋限制 DRAM 供应。这些指控尚未得到证实。

二手转售与折旧

所审阅的资料中，关于旧款数据中心加速卡转售价值的可靠数据很少，因此以下总体规律主要依据消费级显卡的证据。通常的机制是，后继世代产品会降低前代产品的价值。在供应紧张的情况下，如 2026 年，旧硬件可能更能保值，但这属于推断，并非所参考资料中有明确记载的趋势。

功耗、散热与能效

板卡功耗与供电

对于高端显卡而言，功耗往往是决定整体设计的主要限制。厂商通常会公布板卡总功耗（TBP），即整张卡在满负荷下的最大耗电估计值，涵盖会产生热量的GPU，以及显存、电压调节模块和风扇等部件。旗舰显卡的功耗数字持续攀升。RTX 5090的TDP标称为575瓦，而到2026年，旗舰显卡在满负荷下的功耗通常被描述为400至600瓦。标称值也低估了瞬时峰值。一份2026年的指南指出，标称220瓦的显卡可能在数毫秒内瞬间拉高到350至400瓦，电源必须能够承受这种冲击。同样的显卡也引发了接口方面的担忧，有评测人员指出，在575瓦下，12V-2x6接口及其线缆承受着较大压力。

因此，装机人员在选择电源时会留出较大余量。一种常见的估算方法是将CPU、GPU及其他部件的总功耗乘以大约1.2至1.3的系数，目前中高端系统通常需要750至1000瓦的电源。显卡还受到机箱的物理限制：小型机箱往往将GPU功耗限制在200至250瓦左右。

散热设计

板卡设计者主要采用三种方式散热。风冷散热器使用金属散热片，通常配备一到三个风扇；均热板是一种内部封有工作流体的密封金属板，相比实心铜块，它能更均匀地将热量分散到散热片底部；水冷则通过循环回路将热量传递到散热排，有时会配备大型360毫米规格的散热排。每种方式都需要在噪音、体积和可靠性之间权衡。风冷结构简单、成本低，但大型风扇可能噪音较大且体积庞大。在相同功耗下，水冷系统运行通常更安静、温度更低，但增加了水泵、更多可能失效的部件以及漏液风险，并且会对机箱布局造成限制。当显卡的功耗超出散热器或机箱的承受能力时，它的温度会更高，在持续负载下会降频，并且需要提高风扇转速来进行补偿。

每瓦性能与能效指标

最主要的能效指标是每瓦性能，通常用基准测试得分除以实测功耗来计算。按这一指标衡量，原始性能最高的产品未必最节能。在一张2026年以RTX 5090为基准进行归一化的图表中，一款TDP较低、原始得分只有其一小部分的显卡，仅凭功耗低得多，仍可排在其前面。能效的提升主要通过两条途径实现。制程工艺的进步可以缩小晶体管尺寸，降低每次开关操作所需的能量；架构的改进则决定了每单位硅片在每个时钟周期内能完成多少工作。设计者必须兼顾两者，因为为了在基准测试中取胜而提高时钟频率，通常会使功耗的增长速度快于性能的增长速度。

数据中心的能耗需求

如今，能耗问题在数据中心层面比在单张显卡层面更加突出。各方预测差异很大。根据国际能源署（IEA）预测的一份汇总，全球数据中心耗电量在2024年为415太瓦时，到2030年将升至945太瓦时；而Gartner在2026年6月的预测则估计，2026年的用电量为565太瓦时，较2025年的447太瓦时增长26.4%。在这一总量中，面向AI优化的服务器所占比例正快速上升。机架功率密度也在急剧提高：面向AI优化的GPU机架目前功率为40至80多千瓦，据报道，英伟达Blackwell机架的功率约为120至130千瓦。不同机构对单次查询能耗的估算也相差甚远。一份2026年的汇编数据显示，一次典型的GPT-4o查询约耗电0.3瓦时，远低于早先的数字。

运营商关注的重点集中在电力的可获得性与成本、电网接入以及可持续性上。2026年4月的一份市场报告估计，由于电力供应和电网排队等问题，约7吉瓦的AI数据中心容量已被推迟或取消。除IT负载外，制冷和配电还会带来大量额外开销，据估计，这部分开销约占设施用电量的三分之一至40%。因此，关于可持续性的争论主要集中在与这些电力相关的温室气体排放上，以及新增电网容量中有多少来自低碳能源。

减少无效计算

有若干技术可以降低每个有效计算结果所消耗的能量。低精度运算使用更少的比特来表示每个数（参见浮点运算），从而降低每次操作所需的能量；稀疏化方法则会跳过涉及零值权重或激活值的乘法运算。在消费级显卡中，超分辨率技术是最直观的例子。其基本思路是先以较低的内部分辨率渲染游戏画面，再在图像显示到显示器之前将其重建为更清晰的高分辨率图像。以性能模式渲染的4K画面，内部可能只进行1080p渲染，像素运算量仅为原来的四分之一。图像重建由运行在专用矩阵硬件上的神经网络完成，例如NVIDIA RTX显卡中的张量核心。超分辨率并非没有代价：经过学习的重建步骤本身会带来额外开销，而且批评者指出，这项技术可能导致画面模糊。厂商也会对最激进的模式加以限制；英伟达建议将其“超级性能”（Ultra Performance）模式主要用于8K输出。

参考来源

  1. GPU (Hardware)specfortech.wordpress.com
  2. What Does a Graphics Card Do? A Technical Guide to GPU Architecture and Renderingorigin-ic.com
  3. DDR, GDDR, and HBM Memory Speeds and Bandwidthbirow.com
  4. Graphics Card Components & Connectors Explainedgraphicscardhub.com
  5. What Is a Graphics Card? GPU Function, Components & Applicationsblikai.com
  6. Graphics Card PCB Explained: Layers, Impedance, and BGA Assemblypcbtok.com
  7. Graphics card teardown: We dismembered a video card to show you how it workspcworld.com
  8. What is graphics memory bandwidth and why is it importantgrafickekarty.sk
  9. GPU Memory Bandwidth Calculator for Home Labsthehomeserverblog.com
  10. Mobile PCI Express Moduleen.wikipedia.org
  11. MXM GPU Guide: How to Choose the Right Module for Edge or Upgradeelectronics.alibaba.com
  12. Different Types of Graphics Card Cooling Solutions for GPU, VRAM & VRMgraphicscardhub.com
  13. High Bandwidth Memoryen.wikipedia.org
  14. GPU Bandwidth Calculator - Orbit6orbit6.com
  15. CPU vs GPU: Key Differences and Use Casesbrowserless.io
  16. What is a Warp?modal.com
  17. SIMD started it, SIMT improved itjonpeddie.com
  18. GPU memory hierarchyhandbook.modular.com
  19. A Study of the Fundamental Performance Characteristics of GPUs and CPUs for Database Analytics (Extended Version)arxiv.org
  20. GPU Load Balancingarxiv.org
  21. CUTHERMO: Understanding GPU Memory Inefficiencies with Heat Map Profilingarxiv.org
  22. GPU Memory Hierarchy Mappingapxml.com
  23. CPU vs GPU: What’s best for Machine Learning?aerospike.com
  24. CPU vs GPU Accelerated Workloads. 1.0 Introductionmedium.com
  25. SIMD Started It, SIMT Improved It - ACM SIGGRAPH Blogblog.siggraph.org
  26. CPU vs GPU: How They Work and When to Use Themdatacamp.com
  27. GeForce 256en.wikipedia.org
  28. Nvidia’s GeForce 256: The First Fully Integrated GPUelectronicdesign.com
  29. Nvidia GeForce 256 celebrates its 25th birthday — company talks about a quarter century of GPU progressiontomshardware.com
  30. Famous Graphics Chips: Nvidia’s GeForce 256computer.org
  31. Retro Tech: Nvidia GeForceraspberrypi.com
  32. Color Graphics Adapteren.wikipedia.org
  33. IBM Monochrome Display Adapteren.wikipedia.org
  34. Enhanced Graphics Adapteren.wikipedia.org
  35. Computer art sceneen.wikipedia.org
  36. The story of the 3dfx Voodoo1fabiensanglard.net
  37. 3dfx Voodoo Graphics reviewvintage3d.org
  38. 3Dfx’s Voodooelectronicdesign.com
  39. 3dfx - Vogons Wikivogonswiki.com
  40. RIVA 128en.wikipedia.org
  41. GeForceen.wikipedia.org
  42. Benchmarking and Implementation of Probability-Based Simulations on Programmable Graphics Cardsarxiv.org
  43. Part I: The first fully programmable GPUs—a reviewjonpeddie.com
  44. GeForce3cgw.com
  45. Nvidia Introduces GeForce3gamedeveloper.com
  46. GeForce 3 seriesen.wikipedia.org
  47. Unified shader modelen.wikipedia.org
  48. NVIDIA GeForce 8800 Architecture Technical Briefnvidia.co.uk
  49. Tesla (microarchitecture)en.wikipedia.org
  50. Shaderen.wikipedia.org
  51. NVIDIA GeForce 8800 GTX / GTS (G80) - The World's First DX10 GPUhardwarezone.com.sg
  52. GeForce 8 seriesen.wikipedia.org
  53. 1. Introduction — CUDA C Programming Guidedocs.nvidia.com
  54. Memory-Efficient Object-Oriented Programming on GPUsarxiv.org
  55. Implementing Strassen's Algorithm with CUTLASS on NVIDIA Volta GPUsarxiv.org
  56. Memory Hierarchy - SLING user documentationdoc.sling.si
  57. CUDA vs ROCm vs Vulkan vs Metal: GPU Compute in 2026orchestrator.dev
  58. Choosing Vulkan, OpenCL, SYCL or CUDA for GPU Computetechnolynx.com
  59. General-purpose computing on graphics processing units - ArchWikiwiki.archlinux.org
  60. ROCm — Grokipediagrokipedia.com
  61. SPIR-V on ROCm: A Portable IR for AMD GPUs — ROCm Blogsrocm.blogs.amd.com
  62. Running Local AI on AMD: ROCm, Ollama, and LM Studio Performance in 2026mindstudio.ai
  63. The Origins of GPU Computingcacm.acm.org
  64. OCCA: A unified approach to multi-threading languagesarxiv.org
  65. Rediscovering Graphic Shaders GPGPU Programmingnathan.rs
  66. A Brief History and Introduction to GPGPUjeewhanchoi.github.io
  67. Evolution of GPU Programmingcloudrift.ai
  68. NVIDIA Tensor Cores: Their Role in AI Training (October 2026)thundercompute.com
  69. Mixed-Precision Quantization for Language Models: Techniques and Prospectsarxiv.org
  70. FP16 / BF16 / FP8: Mixed Precision Trainingtheneuralbase.com
  71. How FP16, BF16, and FP8 Speed Up Model Trainingrunpod.io
  72. The Landscape of GPU-Centric Communicationarxiv.org
  73. High-Speed Interconnects for GPUsapxml.com
  74. How GPUs communicate in training cluster NVIDIAoptinest.de
  75. High-Bandwidth Interconnectsapxml.com
  76. AI Inference vs Training: GPU Selection and Costrunpod.io
  77. GPU Infrastructure for AI Inference: Training vs. Productioncivo.com
  78. Scaling Large Language Model Training on Frontier with Low-Bandwidth Partitioningarxiv.org
  79. How NVLink Enhances Multi-GPU Performancemedium.com
  80. FP8 vs FP16 vs BF16 Precision Guide 2026packet.ai
  81. FP8 Vs BF16: Choosing Mixed Precision On NVIDIA Tensor Coresacecloud.ai
  82. FP8 vs FP16/BF16/INT8: Theoretical Advantagesrohan-paul.com
  83. AI GPU Guide: Training vs Inference Explainedgmicloud.ai
  84. AI Inference vs Training Infrastructureintrol.com
  85. Hardware Acceleration for Neural Networks: A Comprehensive Surveyarxiv.org
  86. EasyChair Preprint №13991 Accelerating Molecular Dynamics Simulations witheasychair.org
  87. ddcMD: a fully GPU-accelerated molecular dynamics ...osti.gov
  88. MIST: A Simple and Efficient Molecular Dynamics Abstraction Library for Integrator Developmentarxiv.org
  89. Accelerators for Classical Molecular Dynamics Simulations of Biomoleculespubs.acs.org
  90. Parallel CT image reconstruction based on GPUs - ScienceDirectsciencedirect.com
  91. GPU-Based 3D Cone-Beam CT Image Reconstruction for Large Data Volumencbi.nlm.nih.gov
  92. Accelerating advanced mri reconstructions on gpusdl.acm.org
  93. Edge GPU Aware Multiple AI Model Pipeline for Accelerated MRI Reconstruction and Analysisarxiv.org
  94. Real Time Cluster Path Tracingarxiv.org
  95. Rendering (computer graphics)en.wikipedia.org
  96. New NVIDIA Path Tracing Breakthrough Interactively Renders 7,000 Dynamic Lightsdeveloper.nvidia.com
  97. Omniverse RTX Renderer — Omniverse Materials and Renderingdocs.omniverse.nvidia.com
  98. Nvidia GPU Market Share 2026: Discrete AIB, AI Data Center, and Gaming Installed Base - Axis Intelligenceaxis-intelligence.com
  99. AMD GPU Market Share 2026: How AMD Is Competing With NVIDIA and Intel - Thinkofgamesthinkofgames.com
  100. AI GPU Market Share NVIDIA vs AMD vs Intel: 2026 Statisticscommandlinux.com
  101. AI and Packaging Bottleneck, Part 1: TSMC - Technosighttechnosight.substack.com
  102. Intel vs TSMC: How CoWoS Packaging Constraints Could ...io-fund.com
  103. Nvidia snaps up AI chip packaging capacity as TSMC expands in U.S.cnbc.com
  104. Advanced Packaging Is the Latest AI Bottleneck - Domino Theorydominotheory.com
  105. TSMC Boosts CoWoS Capacity as NVIDIA Dominates Advanced Packaging Orders through 2027markets.financialcontent.com
  106. TSMC Advanced Packaging Bottleneck: Why CoWoS Controls AI Chip Supplynextwavesinsight.com
  107. TSMC CoWoS Hidden Bottleneck & AI Chip Supply Squeezeindmoney.com
  108. Data Center GPU Pricing 2026: The Full AI Pricing Indexintuitionlabs.ai
  109. Why AI GPU Prices Are Rising in 2026: HBM Shortage Explainedgpusmith.com
  110. Gaming GPU Prices 2026: RTX 5090 Tops $5,000 - Tech Insidertech-insider.org
  111. Why Are GPU Prices Rising? The Truth About Memory Costs in 2026 - Tech News - darkFlashdarkflash.com
  112. NVIDIA Commands Over 80 Percent of the AI GPU Market Share in 2026 Amid Growing Rivalrylearn.oreateai.com
  113. AMD vs NVIDIA vs Intel: Best semiconductor stock 2026winvesta.in
  114. NVIDIA Grabs 90% GPU Share as Shipments Hit 12.5M [2026]tech-insider.org
  115. A GPU Memory Crisis Is Wrecking Every 2026 Build Listtechguided.com
  116. Why GPU Prices Are Climbing Again in 2026: The Memory Shortage Explainedpcgamecheck.com
  117. The Crypto Crash is Sinking GPU Prices as Mining Profitability Plummets - AiCoinaicoin.com
  118. With Revenue Share Shrinking, Does Nvidia Need Gaming Anymore?finance.yahoo.com
  119. Factors that affect the price of GPUs [AI Impacts Wiki]wiki.aiimpacts.org
  120. GPU Price Drop Crypto Mining Slow Down Newshypebeast.com
  121. The Crypto Crash is Sinking GPU Prices as Mining Profitability Plummets - Decryptdecrypt.co
  122. How Graphics Card Prices Spiraled: Mining, Scalpers, and Prices No One Could Believevgtimes.com
  123. NVIDIA CORP - Form 8-K - FY2022sec.gov
  124. Nvidia says it raked in $193.7 billion in annual data center revenue over the last year, while gaming brought in $16 billionfinance.yahoo.com
  125. GPU pricing set for reset as AI-driven memory shortages push costs sharply higher - Astute Groupastutegroup.com
  126. GPU Price Increase 2026: Nvidia, AMD Hike Kit Coststech-insider.org
  127. Nvidia RTX 5090 Tops $5,000 as GPU Prices Jump 39% [2026]tech-insider.org
  128. Nvidia GPU Prices Surge 41% in Europe [2026]shattered.io
  129. How Many Watts Does a GPU Use? (Complete Power Consumption Guide) -techiher.com
  130. Best Graphics Cards for Gaming in 2026tomshardware.com
  131. Gaming & Workstation PSU Guide 2026newegg.com
  132. GPU Efficiency Chart 2026: Performance Per Watt Rankingsmaxmybuild.com
  133. AI Data Center Power: 415 TWh in 2024, 945 TWh by 2030aitooldiscovery.com
  134. AI Data Center Energy Consumption Statistics 2026: The Definitive Data Report - Axis Intelligenceaxis-intelligence.com
  135. AI Energy Statistics (2026): 45+ Data Points on Data Center Power, Per-Query Cost, and Grid Strain — VoxBoostervoxbooster.com
  136. US AI Power Demand 2026, $500B Deloitte Forecast - EnkiAIenkiai.com
  137. How Upscaling Works, and Why DLSS Still Edges Out FSR - Cheat Code Centralcheatcc.com
  138. Deep learning based selection of samples for adaptive supersamplingimage-ppubs.uspto.gov
  139. GPU TDP & Power Consumption Explained (SA 2026)evetech.co.za
  140. Best GPU for Gaming in 2026eneba.com
  141. How Much Power Supply Wattage Does a Gaming PC Need in 2026?seasonic.com
  142. Best Graphics Cards for Gaming in 2026ai2.work
  143. How much energy do data centers and artificial intelligence use?ourworldindata.org
  144. AI Data Center Power Demand 2026: 1,000 TWh, 41 GW US Loadvalueaddvc.com
  145. Power Requirements for AI Data Centers (2026): Complete Guidetechplustrends.com
  146. DLSS Explained: What Is It and Should You Use It SAevetech.co.za
  147. I moved one thing in DLSS 5's pipeline, and it gave me back 50% of my frame ratexda-developers.com