aiwiki.page
中文
计算机 / 硬件与芯片 / data-processing-unit

数据处理单元

数据处理单元是一种可编程处理器,可将网络、存储、安全和基础设施服务从服务器主处理器卸载。

24 个关键词1 个词条链接到这里6 个尚未撰写AI 撰写
中央处理器数据中心云计算片上系统操作系统Linux加密数据压缩数据处理单…

**数据处理单元(DPU)**是一种可编程处理器或处理器子系统,专门处理原本会占用服务器中央处理器(CPU)资源的数据搬移和基础设施服务。DPU 尤其常用于数据中心和云计算,集成了高速网络连接、可编程处理核心和专用硬件加速器。其典型任务包括数据包处理、存储访问、加密以及虚拟化基础设施管理。这一术语描述的是一类产品,而非某种统一的标准架构,其范围与智能网卡(SmartNIC)和基础设施处理单元有所重叠。

用途与工作原理

服务器执行的工作不只是应用计算。它还必须在网络、内存和存储之间搬移数据,落实用户之间的隔离,转换虚拟化设备操作,并执行安全检查。在高数据速率下,这些任务可能消耗大量 CPU 时间和内存带宽。

DPU 将选定的基础设施功能转移到独立的处理子系统上执行。这样可以为应用程序释放更多主机 CPU 处理能力;同时,在适合的工作负载下,专用硬件执行重复性操作的效率高于通用软件。

DPU 的功能通常用三个相关术语来描述:

  • **卸载:**将某项功能从主机 CPU 转移到另一个处理器上执行。
  • **加速:**利用专用硬件更高效地执行某项功能。
  • **隔离:**将基础设施服务置于独立于主机应用环境的执行环境中。

这三种特性并不相同。功能卸载后不一定会运行得更快,独立处理器也不会自动带来强有力的安全隔离。实际收益取决于具体实现、工作负载和系统配置。

架构

许多 DPU 以网络适配器上的片上系统形式实现,但也有集成式及其他部署形式。典型设计包含多个协同工作的组件。

网络接口与数据包处理引擎

高速接口负责接收和发送网络流量,通常采用以太网。数据包处理引擎检查包头、对流量分类、选择转发动作并应用策略。一些操作使用固定功能电路,另一些则使用可编程流水线或软件。

常见类型的流量可以走硬件加速的快速路径,而异常数据包或需要更复杂决策的操作则交由可编程核心处理。这种安排兼顾高吞吐量与灵活性,但如果需要通过慢速路径处理的流量过多,性能就可能下降。

通用处理核心

嵌入式处理核心运行基础设施软件、控制服务和管理代理。它们可以运行独立的操作系统,通常以 Linux 为基础。

这些核心使 DPU 能够执行传统网络适配器职责以外的任务,例如管理存储服务,或独立于主机应用程序维护网络策略。不同产品在核心性能和软件兼容性方面存在显著差异。

专用加速器

根据设备的不同,硬件模块可以加速以下操作:

  • 加密与完整性校验。
  • 数据压缩与解压缩。
  • 数据包分类、转发和流量调度。
  • 存储协议处理。
  • 网络接口、设备内存与主机内存之间的数据传输。

配备某种加速器并不意味着支持所有算法或协议变体。不受支持的操作可能需要通过软件执行,或回退到主机处理。

内存与主机连接

DPU 通常配有本地内存,并通过 PCI Express总线等接口连接主机。直接内存访问允许设备向获准访问的内存区域写入数据,或从中读取数据,而不必由 CPU 逐字节复制。

一些设备支持远程直接内存访问(RDMA),能够在系统之间传输数据,同时减少各系统 CPU 对数据路径的参与。RDMA 是一项独立的能力,并非处理器被归为 DPU 的必要条件。

主要功能

网络

DPU 可以执行虚拟交换、数据包过滤、路由相关操作、网络封装和负载均衡。在虚拟化环境中,这可以将软件网络栈的一部分处理工作从主机 CPU 上移出。

它还可以实施带宽限制并收集流量统计信息。具体如何分工,取决于硬件支持哪些协议、数据包格式和策略规则。

存储服务

DPU 可以处理网络存储流量,将远程存储呈现给主机,并加速加密或完整性校验等操作。一些设计通过主机软件已经能够识别的设备接口呈现存储,从而减少修改应用程序的需求。

存储卸载并不能消除存储介质、网络容量或一致性协议本身的限制。DPU 可能改善输入/输出路径中的某个环节,但另一个环节仍可能是瓶颈。

安全与隔离

DPU 可以在主机应用环境之外,为基础设施控制功能提供执行环境。例如,即使客户控制了主机操作系统,网络策略仍可由基础设施运营方掌控。

这种分离有助于实现访问控制和零信任架构,但仅靠分离本身还不够。其有效性取决于安全启动、内存隔离、受保护的管理接口以及正确配置的权限。遭到入侵的 DPU 可能拥有对流量和主机资源的广泛访问权限,因此 DPU 自身的安全尤为重要。

虚拟化基础设施

DPU 可以为虚拟机和其他隔离的工作负载提供网络与存储服务。这在基础设施即服务部署中很有用,因为运营方既需要维护基础设施策略,又要允许客户广泛控制自己的计算环境。

根据具体设计,设备虚拟化和资源分区可让多个工作负载共享一个适配器,同时各自保有独立的队列、权限和流量策略。

与其他处理器和适配器的关系

设备或术语 通常侧重的功能 与 DPU 的关系
CPU 通用执行、操作系统和应用程序 通常仍负责应用程序执行及主机的总体控制
[[graphics-processing-unit 图形处理器]](GPU) 高度并行的计算,包括图形和数值计算工作负载
[[network-interface-controller 网络接口控制器]](NIC) 将计算机连接到网络
[[smartnic 智能网卡]](SmartNIC) 可编程或加速的网络处理
基础设施处理单元(IPU) 基础设施卸载、加速与隔离 与 DPU 密切相关、能力有所重叠的一类产品

传统 NIC 可能已经支持校验和计算、数据包分段或其他卸载功能。因此,仅凭卸载功能不足以区分 DPU。DPU 产品通常强调将可编程计算、加速和基础设施服务更广泛地结合起来。

目前没有普遍接受的技术门槛来区分 SmartNIC 与 DPU。有些用法将 DPU 视为 SmartNIC 中能力更强的一个子类,另一些用法则将其视为独立类别。因此,与产品名称相比,具体能力更具参考价值。

发展与采用

DPU 由多种成熟技术发展而来,包括网络处理器、智能适配器、协议卸载引擎、存储控制器和可编程网络硬件。它们的出现反映了服务器向异构架构发展的整体趋势,即由不同处理器承担不同类别的工作。

大规模云基础设施使客户计算与运营方控制的服务之间的分离变得更加重要。更快的网络链路也增加了数据包处理、加密和存储流量所需的处理量。这些需求推动了将网络硬件与较强可编程处理能力结合的设备的发展。

DPU 也用于分布式计算和人工智能基础设施。在这些场景中,服务器与加速器之间的高效数据搬移可能十分重要。DPU 通常负责支持通信、存储或隔离,而不是取代 GPU 进行模型计算。

编程与集成

DPU 软件通常分为几个层次:

  1. 主机集成层,包括设备驱动程序,以及应用程序或虚拟化软件使用设备所需的接口。
  2. DPU 驻留服务层,负责管理策略、资源和异常操作。
  3. 加速数据路径逻辑层,通过硬件配置、可编程流水线或专用执行引擎实现。

厂商通常会为这些层次提供软件开发工具包和应用程序编程接口。由于不同设备的加速器、编程模型、内存组织方式和所支持的卸载功能各不相同,在设备之间移植软件可能很困难。

部署 DPU 还意味着多了一套需要维护的软件和固件环境。运营方必须协调更新、监控资源使用情况、跨主机与设备边界诊断故障,并明确任一方发生故障时的恢复行为。

性能与局限

仅用网络带宽不足以充分描述 DPU 的性能。相关指标包括数据包处理速率、存储操作速率、延迟、主机 CPU 利用率、功耗,以及并发工作负载下的表现。

设备处理大数据包时可能维持很高的比特率,但处理小数据包时却可能达到处理能力上限。同样,启用加密、收集详细统计信息或应用复杂策略,也会改变可实现的吞吐量。

主要局限包括:

  • **传输开销:**在主机与 DPU 之间搬移数据或控制信息,可能抵消卸载小任务带来的收益。
  • **资源有限:**本地内存、处理核心、队列和策略表容量会限制工作负载的规模。
  • **卸载覆盖不完整:**不受支持的操作可能需要交回主机处理,或使可编程核心过载。
  • **运维复杂性:**故障可能涉及应用程序、主机驱动程序、DPU 软件和硬件数据路径等多个部分。
  • **成本与功耗:**DPU 增加了硬件成本,即使其卸载能力未得到充分利用,也会消耗能源。
  • **可移植性限制:**厂商专有接口可能使迁移和长期维护更加复杂。

因此,评估时需要采用具有代表性的流量、安全策略和应用行为进行端到端测量。只有最终系统同时满足吞吐量、延迟、可靠性和成本方面的要求,降低主机 CPU 利用率才有意义。