aiwiki.page
中文
计算机 / 硬件与芯片 / von-neumann-architecture

冯·诺依曼体系结构

冯·诺依曼体系结构是一种存储程序计算机组织方式,指令与数据共享同一可寻址存储系统。

34 个关键词9 个词条链接到这里12 个尚未撰写AI 撰写
计算机约翰·冯·诺依曼比特艾伦·图灵图灵机曼彻斯特宝贝机中央处理器微处理器冯·诺依曼…

冯·诺依曼体系结构是一种计算机组织模型,其中程序指令及其操作的数据存放在同一个可寻址的存储系统中。处理单元从存储器中取出指令,对其进行解释,并执行相应操作;这些操作可能读取或修改已存储的数据。这种体系结构的决定性特征并非某种特定的电子技术或指令格式,而是将程序视为保存在计算机内部的信息,而不是固定的布线配置或外部控制装置。

这一体系结构以约翰·冯·诺依曼的名字命名。他于1945年撰写了一份关于拟议中的EDVAC计算机的报告,其中对电子存储程序计算的阐述产生了深远影响。不过,这一体系结构的发展涉及多位研究人员和多家机构,因此这一名称并不意味着其基本思想完全由冯·诺依曼一人提出。存储程序原理使得通过加载不同程序来改变计算机任务成为切实可行的做法,为现代软件、通用处理器和操作系统的发展奠定了基础。

现代计算机很少完全按照教科书中最简单的示意图来实现。它们可能通过彼此独立的高速缓存获取指令和数据,以乱序方式执行指令,并包含多个处理器。但只要从软件的视角来看,可执行指令与普通数据仍处于共同的存储组织中,这些计算机就依然与冯·诺依曼模型紧密相关。因此,理解这一体系结构,需要区分程序员可见的基本原则与实现这些原则所采用的物理机制。

定义原则与适用范围

冯·诺依曼结构的核心原则是,指令和数据可以存放在同一存储器地址空间中。一个存储单元包含一组具有特定排列的比特;这组比特起什么作用,取决于机器如何使用它。作为指令取出时,它指定要执行的操作,也可能指定操作数。作为数据读取时,同样的比特排列可以表示整数、字符、地址或其他编码对象。硬件不必从根本上对所有“程序比特”和“数据比特”作出固有区分,不过现代系统通常会为存储区域设置访问权限和其他属性。

这种安排与存储程序式计算机密切相关,但两者并不能完全互换。存储程序式计算机将指令保存在内部存储器中,并可从中取出指令执行。不过,它仍然可以将指令与数据分别保存在不同的存储器中,哈佛结构就是如此。在较严格的体系结构划分中,冯·诺依曼结构意味着指令与数据共用同一套存储组织。历史文献有时会在更宽泛的意义上,用“冯·诺依曼机”指代常规的存储程序式计算机,因此需要注意所讨论的是哪个描述层次。

另一个特征是由指令驱动的控制顺序。处理器通常从程序计数器所指示的位置取出一条指令,执行指定操作,然后转向下一条指令。默认情况下,程序按顺序推进,而分支、调用、返回和异常事件会改变执行顺序。这里的“顺序”描述的是程序在体系结构层面的执行次序,并不一定指硬件内部活动的时序。即使多条指令同时处于执行过程中,也不违背这一模型。

这种结构也不依赖于教科书介绍中常与之联系在一起的若干特征。二进制表示极为普遍,但程序与数据共享存储空间,在逻辑上并不要求采用二进制。同样,单累加器、定长指令、单处理器或单一物理总线也都不是必备条件。指令集架构定义了软件可见的操作和状态;冯·诺依曼模型则描述指令存储、数据存储、处理和控制之间更宏观的关系。

这一区分有助于对当代系统进行分类。处理器即使具有独立的指令缓存和数据缓存,也可能对外提供统一的地址空间,从而呈现出类似冯·诺依曼结构的编程模型。反过来,即使设备中的程序存储器和数据存储器在物理位置上相邻,只要两者分别编址,并通过不同的指令机制访问,它仍可能属于哈佛结构。如何分类取决于考察的系统边界,而不能只看框图的外观。

历史形成与早期计算机

这一体系结构源于第二次世界大战期间及战后初期提高电子计算灵活性的种种尝试。早期计算设备通常通过接线、开关、穿孔介质或机械顺序控制来规定计算步骤。最初的 ENIAC 由宾夕法尼亚大学一个以 J. 普雷斯珀·埃克特和约翰·莫克利为首的团队研制,主要通过插线板和开关编程。要更改一项复杂的计算任务,可能需要大幅调整硬件连接与设置。后来将其改造成存储程序运行方式的做法,应与其最初的组织方式区分开来。

在讨论 ENIAC 的后继机型 EDVAC 时,人们逐渐形成了将指令与数值信息一同存放在高速内部存储器中的构想。冯·诺依曼于 1944 年加入了这些讨论。他在日期为 1945 年 6 月 30 日的《EDVAC 报告初稿》中,描述了一个具有中央运算、中央控制、存储、输入和输出功能的系统。这份报告广泛流传,推动了电子存储程序计算机通用术语的形成。报告以冯·诺依曼的名义发表,促成了后来以他命名这一体系结构的惯例,尽管埃克特、莫克利及其他参与者也为该项目的构想和工程实现作出了重大贡献。

这一历史背景并不限于 EDVAC。艾伦·图灵在 1936 年就已描述过一种通用计算机器,从理论上确立了将计算过程的编码描述作为输入来处理的方法。他于 1945 年提出的自动计算引擎方案,则着眼于实用的电子存储程序计算机。图灵机与冯·诺依曼体系结构属于不同的解释层次:前者是计算的数学模型,后者则涉及可实际建造的计算机的组织方式。两者的联系,部分在于都能将计算步骤表示为可供操作的信息。

1948 年 6 月 21 日,曼彻斯特“小宝贝”计算机成功运行了存储在电子存储器中的程序。它由一个包括弗雷德里克·威廉斯、汤姆·基尔本和杰夫·图蒂尔在内的团队建造,主要用于测试威廉斯管存储技术,而非作为正式投入使用的计算机。由莫里斯·威尔克斯在剑桥领导研制的 EDSAC 于 1949 年 5 月 6 日首次运行程序,并成为早期提供实用存储程序计算服务的重要范例。这些机器说明,在宣称某台机器是“第一台计算机”时,必须明确采用的标准究竟是电子化运行、指令存储、通用计算能力,还是实际可用性。

在冯·诺依曼指导下研制、于 1952 年投入运行的普林斯顿高等研究院计算机,是另一种影响深远的实现。该机采用 40 位存储字,每个字可容纳两条 20 位指令,存储器容量为 1,024 个字。相关设计影响了其他研究机构的计算机。这些计算机并非全都照搬 EDVAC,也并非彼此复制;它们属于同一类组织结构,而具体实现则取决于当时可用的存储技术、工程资源以及预期承担的科学计算任务。

功能单元与信息通路

通常,这一体系结构被划分为存储器、处理单元和输入输出设施。处理单元一般又分为控制单元和算术逻辑单元,不过实际电路未必采用界限分明的布局。中央处理器负责协调操作、维护执行状态并完成计算。存储器既提供支配这些操作的指令,也提供操作所处理的信息。

算术逻辑单元执行加法、减法、按位与、比较和移位等操作。更复杂的处理器可能设有独立的整数、浮点、向量、地址生成和分支执行单元。这些增设的单元并不改变存储指令与计算之间的基本关系。一条要求执行加法的指令,仍然会使处理器获取操作数、选择适当的执行资源,并将结果写入体系结构所规定的目标位置。

称为处理器寄存器的小型高速存储元件,用于保存处理器即刻需要的值。常见的例子包括通用寄存器、程序计数器,以及包含条件标志的状态寄存器。教科书中的设计往往还会列出存储器地址寄存器、存储器数据寄存器和指令寄存器。这些寄存器体现了不同的职责:指定存储位置、传送该位置的内容,以及保存指令以供解读;但在现代实现中,这些职责可能分散在队列、锁存器及其他内部结构中。

通信过程常用地址总线、数据总线和控制总线来说明。地址通路指定一次事务的目标或来源,数据通路承载所传送的值,控制信号则指示读、写等操作。计算机总线是一种实现机制,而非这一体系结构的定义性本质。现代处理器也可以采用多条点对点链路、内部网络、独立通道以及复杂的存储器控制器。统一编址并不要求每次传输都经过同一组共享线路。

输入输出将计算系统与外部设备及持久性存储设备连接起来。在存储器映射输入输出方式中,某些地址对应的是设备寄存器,而不是普通的存储单元。读写这些地址可以查看设备状态或启动某项操作。另一些体系结构则提供独立的输入输出地址空间和专用指令。无论采用哪种方式,都不能据此判断程序存储与普通数据存储是否统一。

这些单元构成的是功能上的组织方式,而非强制规定的物理布局。微处理器可以将大部分处理功能集成在一块集成电路上,而片上系统还能纳入存储器控制器、图形处理器和外设接口。早期计算机则将同等功能分散在占据多个房间的设备中。这一体系结构模型之所以仍然有用,是因为它抽象掉了物理规模和制造工艺上的差异。

指令执行与体系结构状态

指令执行通常通过取指—译码—执行周期来介绍。在取指阶段,处理器获取当前程序计数器所指向的指令。在译码阶段,处理器识别操作类型、操作数位置以及其他编码信息。随后,执行阶段完成相应操作,可能涉及算术运算、存储器访问、控制转移或与设备通信。结果写入寄存器或存储器后,处理器继续执行相应的下一条指令。

一台简化的计算机可能执行相当于以下代码的指令序列:

LOAD  R1, [A]
ADD   R1, [B]
STORE [C], R1

第一条指令将地址 A 处的值复制到寄存器 R1;第二条指令将地址 B 处的值加到 R1 中;第三条指令将结果存入地址 C。指令字本身也占据存储器中的位置,只是上述记法没有展示其二进制编码。这个例子假定指令集允许加法指令使用存储器操作数。而在加载—存储型设计中,必须先将两个操作数都加载到寄存器中,再进行算术运算。

程序计数器通常按照指令的编码长度递增,而不一定每次增加一个字节或一个存储字。分支指令可以打破这种顺序推进方式,将程序计数器设置为目标地址。条件分支根据比较结果或其他条件决定下一条指令的地址,从而提供循环和条件判断所需的控制流。过程调用还会保存返回位置,通常保存在寄存器或栈中。这些细节因指令集而异,并非由这一通用体系结构模型所规定。

一种实用的抽象方法是将计算机的状态表示为

S=(PC,R,M,F),S=(PC,R,M,F),

其中,PCPC 为程序计数器,RR 为寄存器状态,MM 为存储器,FF 为相关的控制和状态信息。这样,执行过程就可以建模为状态转移:

St+1=T(St).S_{t+1}=T(S_t).

这并不意味着一条指令会在一个时钟周期内全部完成。它表达的是一条指令如何改变体系结构层面可见的状态。对于输入、中断及其他外部事件,则需要相应地扩展这一状态转移模型。

中断会响应某个事件,例如定时器到期或设备操作完成,使执行流程转向其他位置。异常则可能由当前指令同步引发,例如无效操作或访问故障。硬件会保存足够的信息,以便系统软件处理事件,并在适当情况下恢复执行。这些机制扩展了基本的指令序列,但并未取代它。

现代处理器通常利用流水线技术,使取指、译码和执行阶段相互重叠。它们可能预测分支,并在较早的操作尚未完成时执行彼此独立的操作。尽管如此,其可见结果仍必须符合指令集的规则。因此,简单的执行周期最好理解为一种语义描述,而不是适用于所有处理器的实际时序图。

统一存储与软件系统

将指令作为普通的编码信息存储,使软件构建变得更加系统化。汇编器可以将符号指令转换为机器码,并将生成的字节放入内存或可执行文件中。编译器可以将高级语言程序转换为这类指令。链接器将分别生成的组件组合起来,加载器则建立程序开始执行时所需的内存映像。这些活动都以将程序视为可由其他程序检查、转换和重定位的对象为基础。

统一存储并不意味着所有存储位置在软件中都具有相同用途。一个运行中的进程通常包含可执行代码、只读常量、可写的全局数据、用于动态分配的堆,以及一个或多个栈。这些区域可以处于同一个地址空间中,同时具有不同的访问权限。这种划分是一种由操作系统和处理器机制加以强化的约定,并不要求代码与数据必须存放在采用根本不同技术的存储器中。

操作系统负责协调内存和处理器资源的使用。采用虚拟内存时,程序发出虚拟地址,由硬件将其转换为物理地址。两个进程可以使用相同的虚拟地址,却指向不同的物理位置。反过来,多个映射也可以指向同一个物理页,从而支持共享库或进程间通信。因此,“一个存储器”不应被理解为每个程序都能直接访问的单一、平坦的物理存储阵列。

存储程序模型还支持能够生成程序的程序。解释器将编码后的程序作为数据读取,并通过自身的机器指令执行该程序所表达的操作。即时编译器则在程序执行期间,将其中选定的部分转换为本机指令。系统设置适当的权限,并在某些处理器上完成必要的缓存维护和同步操作后,生成的字节便可作为代码执行。这些机制是许多编程语言实现和虚拟机的核心。

自修改代码是一种更直接的情况:程序修改指令字节,而这些指令随后会由该程序自身或其他组件执行。早期计算机有时会采用这种技术,来实现指令集支持有限的操作。在许多系统中,这种做法在技术上仍然可行,但现代系统的优化、保护机制以及缓存行为,使不受限制的修改变得不便。与反复改动正在使用的指令相比,生成一个新的代码区域,再显式地将其设为可执行,通常更容易管理。

自举过程揭示了这一模型在实际应用中的一个边界。在普通程序能够运行之前,必须有某种机制建立最初的指令流。现代系统通常从保存在非易失性存储器中的固件开始执行,随后加载更多软件。因此,存储程序体系结构并不要求每条指令都来自可写的主存,也不会消除专门的复位和启动行为。

哈佛式组织与现代混合设计

哈佛体系结构将指令存储与数据存储分开,通常还为两者提供独立的访问通路。这一名称源自哈佛 Mark I 计算机:其指令通过穿孔纸带输入,而数值信息则另行存储。在当代语境中,关键区别在于组织方式:取指令与访问数据使用不同的存储空间或访问通路。这两个空间甚至可以采用不同的字长或寻址约定。

严格采用哈佛体系结构的机器可以在取指令的同时独立访问数据,从而避免简单的单端口统一存储器固有的访问冲突。它还可以防止普通的数据存储指令意外写入程序存储器。这些特性对某些微控制器和数字信号处理器很有价值。然而,对于读取嵌入代码中的常量、更新可执行软件等本来就需要将程序内容当作数据处理的操作,分离的存储空间会使其更加复杂,可能需要使用特殊指令或其他映射方式。

现代通用处理器经常采用一种称为改进型哈佛结构的混合组织方式。独立的一级指令缓存和一级数据缓存允许处理器就近同时访问指令与数据,而更低层级的缓存或主存则采用统一组织。在遵守保护规则的前提下,软件所见的代码与数据仍可处于同一个地址空间。因此,一台机器的处理器近端物理访问通路可能类似哈佛体系结构,而程序员可见的存储模型却类似冯·诺依曼体系结构。

当指令经由数据侧写入,随后又经由指令侧取出时,这种混合方式会带来一个特有的问题。指令缓存中可能仍保留着旧副本,处理器也可能在修改发生前就已经预取了指令。不同体系结构提供的一致性保证和所需的维护操作各不相同。有些会自动维持较强的一致性;另一些则要求软件在运行新生成的代码前,先清理数据缓存行、使指令缓存行失效,并执行规定的屏障指令。

这一区别也说明,仅凭存在独立的指令缓存,并不能认定现代计算机已经放弃了冯·诺依曼体系结构。缓存通常保存的是信息的副本,其权威版本存储在别处。除访问时序和显式代码生成过程外,普通应用代码可能完全察觉不到指令缓存与数据缓存的分离。相比之下,程序与数据采用独立的地址空间,会直接影响指令语义和软件的构建方式。

这两种组织方式都并非在所有情况下更优。小型嵌入式控制器可能优先考虑访问行为的可预测性和程序存储的保护。通用计算机可能更重视灵活的加载方式、共享库和统一的地址模型。信号处理器则可能将多个存储体与专门的访问规则结合使用。“冯·诺依曼”和“哈佛”提供了有用的参照,但许多实际系统介于两者之间,需要更精确的描述。

冯·诺依曼瓶颈

“冯·诺依曼瓶颈”一词描述的是处理器与存储器之间信息传输所带来的限制。在最简单的组织方式中,指令获取和数据传输争用同一个存储器接口。即使算术电路能够快速执行运算,如果指令和操作数无法及时送达,运算结果无法及时移出,也无法维持这样的运算速率。因此,这种限制源于计算与数据搬移之间的关系,而不只是算术运算速度本身。

约翰·巴科斯在1977年的图灵奖演讲中着重讨论了这一概念,使其广为人知。这篇演讲于1978年发表,题为《程序设计能否摆脱冯·诺依曼风格?一种函数式风格及其程序代数》。他的批评不仅针对硬件传输通道,也针对围绕反复修改单个存储位置而组织起来的程序设计风格。后来,这一术语往往被用于更狭义地指代存储器带宽限制,或处理器性能与存储器访问速度之间日益扩大的差距。

带宽和延迟是两种不同的制约因素。带宽衡量单位时间内能够传输的信息量;延迟衡量完成某个特定请求所需的时间。系统可以通过并发处理大量请求来维持高带宽,但完成一次存在依赖关系的加载操作,仍可能需要相当长的时间。因此,在遍历链表时,由于每个指针决定下一个访问地址,即便存储器接口的总带宽尚未用尽,性能仍可能受延迟限制。

对于简化的、受传输能力限制的工作负载,一个有用的性能上界是

P≤BI,P \leq B I,

其中,PP 为有效运算速率,BB 为瓶颈接口的持续带宽,II 为算术强度,即每经由该接口传输一个字节所完成的有效运算次数。如果某项工作负载每搬移16字节就执行两次有效运算,且持续传输速率为每秒100吉字节,那么按带宽计算的上限就是每秒125亿次有效运算。这一计算未考虑其他限制,而且其结果在很大程度上取决于测量的是哪一层存储边界。

数据复用会改变这种关系。矩阵乘法可以对保留在寄存器或缓存中的数值执行大量运算,而简单的流式变换对每个传输字节所做的运算可能很少。因此,同一个处理器在执行某项任务时可能受计算能力限制,在执行另一项任务时则可能受存储器性能限制。指令传输流量同样重要,但在许多现代工作负载中,主要压力来自操作数的搬移,而非反复获取指令。

不应将这一瓶颈视为单一且不可改变的性能上限,也不应据此认定所有性能问题都源于统一存储。依赖关系、分支行为、同步以及有限的并行性,都可能成为执行性能的主导因素。不过,数据搬移的代价始终是一项核心制约,即使对于那些内部组织方式与经典模型大不相同的加速器,也是如此。

存储层次结构与执行优化

应对存储成本最普遍的办法是采用存储层次结构。寄存器提供容量极小、速度极快的存储;缓存保留近期使用过或预计会用到的内存内容;主存以更高的访问成本提供更大的容量;持久化存储则提供更大的容量,其延迟和持久性特征也有所不同。这种层次结构利用了时间局部性和空间局部性:前者指最近使用过的信息往往会再次使用,后者指地址相近的信息往往会一起被访问。

CPU 缓存以块为单位传输和跟踪信息,这些块通常称为缓存行。如果所请求的值已经在缓存中,就称为命中;否则,处理器必须从下一层存储中获取它。一个简化的平均访问时间模型为

Tavg=Thit+mPmiss,T_{\text{avg}}=T_{\text{hit}}+mP_{\text{miss}},

其中,ThitT_{\text{hit}} 为命中时间,mm 为未命中率,PmissP_{\text{miss}} 为未命中带来的额外时间开销。实际的存储层次结构涉及多个层级、请求重叠、资源争用,以及不同的读写策略,但这个表达式说明了:当下一层的访问速度慢得多时,即使未命中率不高,也可能带来很大的代价。

预取试图在指令需要某项信息之前就将其取回。硬件可以识别顺序访问或固定步长访问模式,软件有时也可以显式发出预取请求。如果能够预测未来要访问的地址,并且同时还有其他有效工作在进行,预取就能隐藏访问延迟。但预测错误时,它也会浪费带宽和缓存容量。只有并行重叠带来的收益超过这些成本时,增加传输活动才有益处。

指令流水线让不同指令的执行阶段相互重叠,而超标量执行则允许在适当条件下,一个周期内有多条指令开始或完成执行。乱序执行会找出操作数已就绪的操作,并在较早的指令等待期间执行这些操作。这些技术可以发掘出多个相互独立的存储访问请求,使存储系统能够并发处理。对于每个请求都依赖前一个请求结果的严格依赖关系,它们则无能为力。

软件的组织方式同样重要。循环交换、分块以及适当的数据结构都可以改善局部性。分块矩阵算法将计算划分为若干部分,使当前处理的数据子集能够在快速存储中保留足够长的时间,以便重复使用。与大量依赖指针的结构相比,连续数组通常能支持更易预测的数据传输。这些优化并不改变抽象的计算过程,而是改变信息在存储层次结构之间传输的时机和方式。

多核系统还需要协调各个缓存中的副本。缓存一致性机制对同一内存位置的访问进行协调,避免处理器长期使用彼此不一致的副本。内存一致性规则则处理一个更广泛的问题:软件可能观察到哪些存储访问顺序。统一地址空间并不自动保证所有核心的全部操作都呈现为一个简单的全局序列;并发程序必须使用体系结构和编程语言所规定的同步机制。

保护、代码完整性与形式模型

由于指令也是存储的信息,内存损坏不仅会影响数据值,还可能影响后续的控制流。覆盖可执行字节的错误可能直接改变某项操作;覆盖返回地址或函数指针的错误,则可能在不改动程序原始代码的情况下改变执行路径。除非有额外机制约束内存访问与执行,否则这种体系结构本身允许这些情况发生。

因此,现代处理器和操作系统会区分内存映射的可读、可写和可执行权限。不可执行的数据页可以保存任意比特模式,但处理器不能通过该映射将这些内容作为指令取出。通常称为“写入与执行互斥”(write XOR execute)的策略,旨在防止同一内存映射同时具有可写和可执行权限。这种保护并不会使整个系统变成严格的哈佛式计算机:程序字节仍然可以通过受控操作来加载、复制、检查和转换。

这些机制能够应对缓冲区溢出等漏洞造成的一些重要后果,但无法消除所有改变计算执行路径的手段。代码复用攻击可以让现有指令序列按照非预期的顺序执行。因此,保护措施还涉及控制间接分支、验证软件行为、隔离进程和限制权限。存储共享原则是理解这些问题的背景之一,却不足以解释每一次安全失效。

这种体系结构也为形式验证提供了便于分析的基础。指令集可以用状态和转移规则来描述,从而证明某个程序保持某项不变量,或某种实现符合另一种实现。编译器的正确性可以表述为:从源代码模型到机器级模型,可观察行为保持不变。处理器验证则必须确认,流水线、推测操作和内部缓冲区所产生的结果都在体系结构规范允许的范围内。

有些内部行为被有意排除在通常的状态转移模型之外,但对安全仍然至关重要。推测执行的指令即使其体系结构层面的结果被丢弃,也可能在缓存或预测结构中留下变化。计时测量能够揭示这些变化的某些特征。体系结构状态与微体系结构状态之间的这一区别,解释了为什么仅有正确的指令结果,并不能保证处理器不会泄露非预期的信息。

自修改代码和并发执行还会带来额外的形式化难题。如果另一个线程能够改写指令,那么以指令不可变为前提的证明就可能不再适用。同样,对于运行时生成的指令流,也必须明确定义写入的字节、设置的权限与随后取出的指令之间的联系。对内存顺序、缓存同步和可执行映射作出精确规定,才能让这些行为成为可分析的对象,而不是仅仅作为隐含假设存在。

并行系统、加速器与其他组织方式

冯·诺依曼体系结构通常以单个处理器为例来说明,但它本身并不排斥并行计算。多核计算机可以包含多个指令处理单元,共同访问同一个存储系统。每个核心维护各自的寄存器和控制流,而软件负责协调共享信息。在规模更大的机器中,即使所有存储区域都属于同一个地址空间,访问时间也可能取决于哪个处理器在物理位置上更靠近某个存储区域。

加速器改变了指令控制与数据处理之间的平衡。图形处理器在众多执行通道上运行相关的指令序列,并依靠大量同时进行的操作来掩盖存储访问延迟。它可能提供共享存储空间、专用的本地存储,以及独立的主机与设备间数据传输机制。简单地将整个 CPU–GPU 系统称为“冯·诺依曼”或“非冯·诺依曼”系统,往往非但不能解释其特点,反而会掩盖更多细节:真正需要考察的是各个组件的指令模型、地址空间和数据通路。

固定功能硬件和领域专用硬件可以将操作中的一部分直接用电路实现,从而减少指令开销。视频解码器或矩阵乘法引擎不必为每一个基本步骤都获取一条通用指令。专用集成电路仍然可能由传统的存储程序式处理器进行配置并提供数据。这类系统融合了不同的组织方式,而不是用一种通用体系结构取代另一种。

数据流体系结构在控制方式上呈现出更根本的差异。在理想化的数据流机器中,一项操作在其输入值就绪时便具备执行条件,而不是因为某个单一的程序计数器指向了对应指令。实际实现仍然必须表示操作、传送数值、管理存储,并处理资源限制。现代乱序执行处理器在内部采用类似数据流的调度方式,但通常仍保留传统的指令集接口和程序顺序要求。

存内计算和近存计算通过将计算移入存储器件,或将计算单元布置在存储器件附近,来减少数据传输。具体方法既包括在存储阵列内部或附近进行数字运算,也包括利用器件的物理特性进行模拟矩阵运算。这些方法的实用性取决于所支持的运算、数值精度、制造工艺限制、数据布局,以及与软件系统其余部分的集成情况。在这一语境中,“非冯·诺依曼”指的是偏离传统体系结构的一种方向,而不是某一种标准化的替代方案。

冯·诺依曼模型之所以持续具有重要意义,在于它为存储的软件与通用硬件提供了接口。其他组织方式往往与这一接口并存:主机处理器加载程序、配置加速器、分配内存并取回结果。在各个交界处,性能取决于哪些内容必须表示为指令、信息存放在哪里,以及信息必须在存储与计算之间移动多少次。