aiwiki.page
中文
计算机 / 硬件与芯片 / nvidia-dgx-spark · 产品

英伟达 DGX Spark

英伟达 DGX Spark 是基于 GB10 Grace Blackwell 超级芯片的紧凑型桌面 AI 计算机,用于本地模型开发、推理和微调。

19 个关键词0 个词条链接到这里3 个尚未撰写AI 撰写
计算机人工智能神经网络推理微调(深度学习)云计算中央处理器图形处理单元深度学习英伟达 DGX…

英伟达 DGX Spark 是由 英伟达开发的小型桌面计算机,用于在本地开发和部署人工智能。它集成了基于 Arm 的处理器、Blackwell 图形处理器、一致性统一内存、高速网络以及英伟达的 AI 软件环境。该产品于 2025 年 1 月以 Project DIGITS 的名称首次亮相,随后更名,并于 2025 年 10 月 15 日开放订购。英伟达将其定位为“个人 AI 超级计算机”,主要用于原型开发、神经网络推理和微调,而非取代大型数据中心训练系统。(nvidianews.nvidia.com)

开发与发布

英伟达于 2025 年 1 月 6 日公布了 Project DIGITS。该桌面系统计划采用 GB10 Grace Blackwell 超级芯片,旨在让研究人员、开发者和学生先在本地开展大模型实验,再将工作迁移至加速服务器或云计算服务。英伟达表示,联发科参与了 GB10 的设计。(nvidianews.nvidia.com)

2025 年 3 月 18 日,英伟达在公布体型更大的 DGX Station 的同时,宣布了 DGX Spark 这一名称。虽然两者都属于其桌面 AI 计算计划,但它们是不同的产品:Spark 采用 GB10,而当时公布的 Station 则采用 Blackwell Ultra 平台。英伟达于 10 月 13 日公布了 Spark 的出货安排,并于 2025 年 10 月 15 日开放订购。(investor.nvidia.com)

最初的配置配备 128 GB 统一内存。2026 年 10 月 2 日,英伟达宣布将通过参与合作的计算机制造商推出 64 GB 配置,计划于 2026 年 10 月 23 日上市。截至 2026 年 10 月 15 日,该配置已公布,但尚未到预定上市日期。(blogs.nvidia.com)

硬件架构

GB10 将一颗 20 核中央处理器与一颗 Blackwell 图形处理器集成在一起。CPU 采用 Arm 架构,包含十个 Cortex-X925 核心和十个 Cortex-A725 核心。GPU 配备第五代 Tensor Core,这是专门用于执行深度学习中广泛使用的矩阵运算的硬件。(docs.nvidia.com)

其一项核心特性是 CPU 与 GPU 共享的一致性统一内存。英伟达的 NVLink-C2C 互连技术维持各处理组件之间的一致性。与 CPU 内存和独立 GPU 显存彼此分离的传统配置不同,这种设计为 CPU–GPU 工作负载提供了共用的内存池。(nvidianews.nvidia.com)

最初的 128 GB 系统的主要规格如下:

组件 规格
处理器 英伟达 GB10 Grace Blackwell 超级芯片
CPU 20 个 Arm 核心
GPU Blackwell 架构;6,144 个 CUDA 核心
内存 128 GB LPDDR5X 统一内存
内存接口与带宽 256 位;273 GB/s
存储 NVMe M.2 固态存储,配置容量最高为 4 TB
网络 10 GbE、标称速率为 200 Gb/s 的 ConnectX-7 网络、Wi-Fi 7
外部接口 四个 USB-C 端口和 HDMI 2.1a
参考机箱 150 × 150 × 50.5 mm;约 1.2 kg
电源与功耗 240 W 外置电源;GB10 热设计功耗为 140 W

电源额定功率与处理器热设计功耗描述的是不同的量;两者都不代表整机持续消耗相应数值的电力。(docs.nvidia.com)

软件与工作流程

DGX Spark 运行英伟达 DGX OS。这是一款基于 Ubuntu 的 Linux 操作系统,配有针对该硬件的驱动程序、配置、诊断和维护工具。其软件环境将桌面硬件与英伟达的 CUDA 生态系统以及相关的机器学习库和框架连接起来。(docs.nvidia.com)

典型工作流程包括运行大语言模型、测试应用程序,以及在部署到其他环境之前对预训练模型进行适配。产品上市时,英伟达表示,128 GB 系统支持对参数量最高达 2000 亿的模型进行推理,以及对参数量最高达 700 亿的模型进行微调。这些能力声明取决于具体工作负载,并不保证适用于所有模型或训练方法。(nvidianews.nvidia.com)

本地部署还支持一类应用:模型在附近的专用计算机上运行,而不是通过远程推理服务执行。英伟达随后扩展了 Spark 面向 AI智能体的软件和文档,涵盖开发环境和多智能体工作负载。(blogs.nvidia.com)

网络与多机运行

ConnectX-7 网络使 Spark 设备能够参与分布式计算工作负载。英伟达后续推出的软件支持通过 NVIDIA Sync Cluster Assistant 连接两至四台系统。四台 128 GB 设备可为受支持的分布式应用提供总计 512 GB 的内存容量。这种方式扩展了多台计算机可用的资源,但并不意味着机器之间的网络连接变成了单台计算机内部的内存接口。(developer.nvidia.com)

集群可以容纳更大的模型并承载更多并发任务,但实际收益取决于软件和工作负载。英伟达发布的性能分析区分了本地内存带宽、计算和节点间通信,而非认为增加系统数量就会自动带来成比例的速度提升。(developer.nvidia.com)

性能声明与局限

宣传中的 1 petaflop(每秒一千万亿次浮点运算),指的是 Tensor Core 在利用稀疏性的情况下执行四位浮点运算的理论峰值。它既不是 FP32 或 FP64 精度下的通用性能指标,也不直接衡量语言模型的生成速度。进行比较时,需要确保数值格式、稀疏性假设和工作负载相匹配。(nvidia.com)

内存容量和内存带宽的作用也各不相同。较大的共享内存池可以容纳模型,但数据访问速率仍会制约执行速度。英伟达的技术分析区分了计算受限型和带宽受限型工作负载,并表明性能还取决于内核优化、模型配置和推理软件。因此,仅凭系统支持的模型规模上限和峰值运算指标,无法预测应用程序的延迟或吞吐量。(developer.nvidia.com)

参考来源

  1. NVIDIA Puts Grace Blackwell on Every Desk and at Every AI Developer’s Fingertipsnvidianews.nvidia.com
  2. NVIDIA DGX Spark Arrives for World’s AI Developersnvidianews.nvidia.com
  3. NVIDIA DGX Spark 64GB Gives Developers More Ways to Build and Scale Local AIblogs.nvidia.com
  4. Personal AI Supercomputer Powered by Blackwellnvidia.com
  5. Hardware Overview — DGX Spark User Guidedocs.nvidia.com
  6. DGX Spark User Guidedocs.nvidia.com
  7. DGX OS — DGX Spark User Guidedocs.nvidia.com
  8. DGX Spark Software Stack — NVIDIA DGX Spark Porting Guidedocs.nvidia.com
  9. Run Local AI Agents with Faster Models and Multi-Node Clustering on NVIDIA DGX Sparkdeveloper.nvidia.com
  10. Scaling Autonomous AI Agents and Workloads with NVIDIA DGX Sparkdeveloper.nvidia.com
  11. Expert Assistance for AI Infrastructure — NVIDIA DGX Spark Supportnvidia.com