内核是操作系统的核心组成部分,负责控制对计算资源的访问,并提供程序运行所需的基本机制。它管理处理器时间、内存以及与设备的交互,同时维持应用程序之间以及应用程序与系统本身之间的隔离边界。在大多数通用计算机上,内核运行时拥有普通应用程序不具备的硬件特权。
内核并不等于整个操作系统。命令解释器、图形界面、实用工具以及许多后台服务通常都在内核之外运行。内核的边界因设计而异:有的内核包含文件系统、网络协议和大多数设备驱动程序,有的则将其中许多功能交由独立进程处理。内核的根本特征在于,它负责建立并维护最基本的运行环境和保护机制。
内核设计需要兼顾资源分配、硬件控制与安全性,同时满足严格的性能和可靠性要求。普通应用程序中的缺陷可能导致该程序终止;而具有特权的内核代码中的缺陷则可能危及整台计算机的安全,或使其停止运行。因此,不同的内核架构会在效率、隔离性、可移植性、可预测性以及必须信任的代码量之间作出不同的权衡。
历史发展
内核的功能源自早期电子计算机的监督程序。20 世纪 50 年代,批处理系统使用常驻监控程序来装入作业、转移控制权,以及协调输入和输出。这些监控程序减少了程序运行间隙所需的人工操作,但最初在防止程序覆盖监控程序或干扰其他作业方面,提供的保护十分有限。随着硬件逐步具备中断、保护机制和地址转换功能,监督软件得以更有效地控制程序执行。
20 世纪 60 年代,多道程序设计和分时技术使资源管理成为操作系统设计的核心。多个程序可以同时驻留在内存中,而交互式用户则期望机器在运行其他程序时仍能及时响应。CTSS 和 Multics 等系统开发了共享处理器与内存的机制,同时保持用户之间的隔离。Multics 项目始于 1964 年,将分段内存、分层保护与持续提供计算服务的宏大构想结合起来。这些项目推动了内核角色的确立:它所负责的不再只是安排作业的执行顺序,而是实现受控的资源共享。
Unix 于 1969 年诞生于贝尔实验室,肯·汤普森和丹尼斯·里奇是其主要开发者。它的设计相对精简,将进程、层次化文件系统和一小组可组合的接口结合起来。1973 年,Unix 的大部分代码用 C编程语言重写,与几乎完全以汇编语言编写的操作系统相比,其可移植性显著提高。此后,Unix 对大学教学、商业系统、网络软件以及众多后来的内核结构都产生了影响。
研究人员也探索了缩小特权核心的途径。佩尔·布林奇·汉森于 1969 年介绍的 RC 4000 系统,将一个小型核心与在核心之外实现的策略分离开来。20 世纪 80 年代,理查德·拉希德及其同事在卡内基梅隆大学开发了 Mach,重点关注任务、线程、虚拟内存和基于消息的通信。20 世纪 90 年代,约亨·利特克的 L4 研究表明,精心设计的微内核能够提供远快于早期实现的通信速度。
Linux 内核由林纳斯·托瓦兹于 1991 年首次发布,后来发展成为协作开发的开源软件中得到广泛部署的典范。Windows NT 于 1993 年首次发布,奠定了现代微软 Windows 所采用的内核谱系。这些发展历程并未最终汇聚为同一种架构:当代系统在兼容性、驱动程序放置位置、保护机制,以及内核与用户空间服务的职责划分方面,仍然采用不同的方法。
内核的组织方式与架构类型
内核架构通常根据哪些服务在特权核心中运行,以及这些服务如何通信来区分。在宏内核中,调度、内存管理、文件系统、网络功能以及许多驱动程序都在同一个具有特权的地址空间内运行。各组件可以通过普通函数调用相互调用,并直接共享内部数据结构。这可以提高常见操作的效率,但某个组件中的错误内存写入也可能破坏与其无关的内核状态。
宏内核设计并不意味着整个内核必须是一个不可分割的程序。Linux 和多种类 Unix 内核都支持可加载模块,允许在系统运行期间添加或移除驱动程序及其他组件。模块化涉及代码的组织与加载,并不一定涉及保护机制:以完整内核权限执行的模块,通常与内核映像中内置的代码具有同等的系统破坏能力。即使应用程序使用的外部接口保持稳定,内部接口也可能发生变化。
微内核只保留较少的特权机制,通常包括调度、地址空间管理、中断处理和通信。文件系统、驱动程序及其他服务则可以作为独立的用户空间服务器运行。这种安排可以形成有效的故障隔离边界:只要系统在设计时具备恢复驱动程序状态并重新连接客户端的能力,就可以在不重启无关服务的情况下重启发生故障的驱动程序。其开销取决于通信频率、地址空间切换、调度以及实现效率。
混合内核一词用于描述融合不同架构类型设计思想的系统。Windows NT 和苹果的 XNU 通常被归入这一类别,不过这个术语并没有统一的正式定义。XNU 在具有特权的实现中,将源自 Mach 的机制与 BSD 功能及驱动程序框架结合起来。这类分类有助于描述总体组织方式,但仅凭分类本身,无法可靠地预测性能或安全性。
另一些设计则更彻底地改变了抽象边界。外核以安全的方式让多个应用共享硬件资源,同时将更高层次的抽象交由应用级库提供;麻省理工学院的研究人员于 1995 年发表了具有重要影响的外核研究成果。单内核将应用程序与选定的操作系统组件编译成专用映像,通常用于在虚拟机监控器上运行。这些方法可以减少层次或未使用的代码,但也会转移兼容性、隔离、部署和资源管理方面的责任。因此,评估架构时需要考察实际的可信组件和通信路径,而不能仅仅依赖架构标签。
处理器特权与系统调用接口
内核依赖于中央处理器及其指令集架构提供的机制。大多数通用处理器会区分特权执行与普通应用程序执行。特权指令可以配置地址转换、控制中断或访问受保护的硬件状态。不能允许应用程序在不受管控的情况下执行这些操作,否则它们就可能读取其他程序的内存、独占处理器,或禁用系统重新取得控制权所必需的机制。
人们熟悉的内核态与用户态之分,是对各类硬件特定机制的抽象。x86 处理器提供保护环,不过主流操作系统通常将普通应用程序置于环 3,将内核主体置于环 0。Arm 架构采用异常级别,其语义有所不同。虚拟化则引入了超出这种简单双模式模型的额外控制机制。此外,特权级别并不对应某个特定进程:内核通常代表请求服务的应用程序执行操作。
应用程序通过系统调用请求受保护的服务。一条特殊指令将控制权转移至预先定义的内核入口,内核在此按照平台的应用二进制接口获取参数。典型请求包括打开文件、创建进程、映射内存或发送数据。GNU C 标准库等库通常提供便于使用的封装,但库函数并不等同于系统调用。有些库函数完全在用户空间中运行,另一些则会调用多项内核操作。
内核入口路径必须将应用程序可控制的值视为不可信数据。它会检查请求编号,验证长度和权限,并安全地访问调用方提供的内存。仅检查地址的数值是否看似合理还不够:相应的内存映射可能不存在、不可访问,或正被并发修改。因此,内核使用专门的机制来跨越保护边界复制数据,并处理复制过程中发生的故障。内核还必须避免通过返回的结构体泄露未初始化的内核内存。
中断和异常提供了进入特权代码的其他途径。设备中断用于报告外部事件;异常则由指令执行引发,例如缺页或非法操作。系统调用是一种有意发起的同步请求,并非任意一种硬件中断。这些切换会带来状态保存、控制流变化等开销,有时还会影响地址转换或缓存。因此,在能够维持所需保护语义的前提下,系统会采用批处理、共享队列以及受到严格限制的用户空间快速路径。
进程、线程与处理器调度
进程是一种执行环境,包含地址空间、凭据以及对已打开对象的引用等资源。线程则是这种环境中可被调度的执行流。同一进程内的线程通常共享内存和许多资源,同时各自保有寄存器、栈和调度状态。不同内核使用的术语有所差异:某些实现可能通过关系密切的内部对象来表示进程和线程,而不是将两者视为截然不同的抽象。
内核维护着处于可运行、等待和已终止状态的执行上下文的信息。等待磁盘输入的线程不必占用处理器;它可以被放入等待队列,直到所等待的事件发生。上下文切换会保存恢复某个线程所需的状态,并恢复另一个线程的状态。在地址空间之间切换可能需要额外的地址转换工作,不过,地址空间标识符及相关硬件特性可以降低这一成本。调度器自身的执行以及对缓存局部性的破坏也会带来开销。
调度策略决定哪个可运行线程获得处理器,以及可以运行多长时间。交互式工作负载受益于较短的响应时间,而批处理计算可能更看重吞吐量。基于优先级的调度、时间片轮转、加权共享以及面向截止期限的方法,分别用于满足不同的需求。若 表示一段可用的处理器时间,某项任务的权重为 ,则一个简化的按比例共享目标为
实际的调度器必须考虑任务进入和离开可运行集合、处理器拓扑、阻塞以及实现开销等因素;这一公式只是调度策略的模型,而非完整的调度算法。
在多核机器上,调度还涉及线程应在哪个处理器上运行。迁移线程可以平衡处理器利用率,但也可能使原有缓存中的有用内容无法继续利用,或增加对远程内存的访问。处理器亲和性、负载均衡以及对共享缓存的感知,有助于在这些因素之间作出权衡。采用异构核心的系统还必须考虑处理能力和能耗方面的差异。单一的全局队列可以简化某些决策,但也可能成为同步瓶颈,因此许多内核采用每个处理器各自独立的调度结构。
进程的创建和终止所需的协调工作,不仅限于选择一个可运行的任务。内核会设定标识符和权限,构建或复制执行环境,并确保在执行结束时回收资源。类 Unix 系统传统上通过 fork 和 exec 接口,将进程创建与程序映像替换区分开来。其他系统则提供不同的创建模型。无论采用何种模型,正确处理生命周期都能避免失效引用、资源泄漏,以及意外复用仍被其他地方引用的对象。
虚拟内存与物理内存管理
虚拟内存将软件使用的地址与存放数据的物理位置分离。进程看到的是虚拟地址空间;处理器中的地址转换硬件依据内核控制的表,将其中的部分区域映射到物理内存。映射属性决定某个区域是否可读、可写或可执行,以及能否从用户态访问。这既提供了一种编程抽象,也在应用程序之间建立了重要的保护边界。
内存通常以固定大小的页为单位进行管理,不过,不同体系结构支持的基本页大小各不相同,而且往往还支持更大粒度的映射。4 KiB 是一种常见的页大小,但并非所有系统都采用这一大小。页表记录地址转换关系,转译后备缓冲器则缓存最近使用的地址转换信息。当地址转换关系不存在或访问不被允许时,就会触发缺页异常。随后,内核会判断这次访问是需要执行加载数据等操作的合法访问,还是应当向进程报告的非法操作。
请求分页将内存的分配或加载推迟到实际访问时才进行。新建立映射的区域最初可能不对应任何物理页,也可能指向一个共享的、内容全为零的只读页。写时复制允许多个映射共享同一份物理数据,直到其中一个映射尝试修改数据。此时,写入引发的异常会触发私有副本的创建。这项技术支持高效的进程创建、私有文件映射,以及其他形式的延迟复制;不过,在页面被修改时,仍然会产生复制开销。
物理内存管理涉及多个层次。内核分配页框、管理较小的内部对象,并平衡应用程序、缓存和内核自身数据结构的内存用量。文件内容可以存放在页缓存中,使重复读取无需再次访问存储设备。内存紧张时,干净的缓存页可以直接丢弃,而脏页则可能需要回写。根据操作系统及其配置的不同,应用程序的匿名内存有时可以移至交换存储区,或进行压缩。过于频繁地搬移数据可能导致抖动,使系统将大量时间用于满足内存需求,而不是执行有用的计算。
大型系统还会涉及非一致内存访问:访问某个内存区域的延迟和带宽取决于发起访问的处理器。因此,内存放置与迁移策略不仅要考虑容量,还必须兼顾局部性。共享映射也会使地址转换关系的变更更加复杂,因为其他处理器上缓存的地址转换信息可能需要失效。这类跨处理器的地址转换缓存失效操作可能代价高昂。对于适合的工作负载,大页能够降低地址转换开销,但也可能增加分配难度、加剧内存碎片,或造成不必要的内存消耗。内核的内存策略需要权衡这些影响,而不能将所有空闲内存都视为可以任意互换的资源。
并发与内部同步
内核必须处理许多在时间上相互重叠的活动。多个处理器可能同时执行内核代码,其他代码运行期间可能有中断到来,而一个线程也可能在被挂起后恢复执行,此时另一个线程已经改变了相关状态。因此,并发计算是内核运行的固有特性,而不是可有可无的优化。即使是单处理器系统,也会因抢占和中断而出现并发,不过真正的同时执行需要多个执行单元。
共享结构需要通过同步来维持其不变式。锁可以确保同一时间只有一个执行上下文修改某个特定结构。自旋锁会反复检查锁是否可用,只有在预期等待时间和执行条件允许忙等待时才适用。睡眠互斥锁允许被阻塞的线程让出处理器,但并非所有上下文都能使用它:中断处理程序或其他不可睡眠的执行路径,在维持对硬件至关重要的状态时,不能随意挂起自身。
原子指令可以对具备相应支持的内存位置执行不可分割的操作,但仅有原子性并不能确立所有必要的执行顺序。处理器和编译器可能在各自内存模型的规则范围内对操作进行重排序。锁、屏障和语言层面的原子操作提供顺序保证,使处理器之间的通信可靠。如果代码假定的顺序保证强于规范所提供的保证,那么它即使恰好能在某种体系结构上运行,也可能在另一种体系结构上失败。
当多个活动无限期地等待无法满足的条件时,就会发生死锁,这通常是因为它们各自持有对方所需的资源。一个常见例子是,两个线程以相反的顺序获取同一对锁。内核利用锁层级、受限的加锁模式和诊断工具来检测或防止这类循环等待。相关问题还包括活锁、饥饿和优先级反转。在优先级反转中,高优先级任务可能被持有资源的低优先级任务拖延;优先级继承通过临时提高资源持有者的有效优先级,可以缓解某些形式的优先级反转。
要提高可扩展性,往往需要避免用一把锁来保护频繁访问的全局状态。每处理器数据、分区结构以及针对读多写少场景的技术,都能减少争用。读—复制—更新允许某些读取方以极低的开销访问共享结构,同时由写入方发布替代版本,并推迟回收,直到原有读取方不可能再使用已移除的对象。难点往往不在于更新指针,而在于证明何时可以安全地释放旧对象。引用计数、宽限期和明确的所有权规则,分别解决了这一生命周期问题的不同方面。
进程间通信与协调
进程间通信为彼此独立的执行环境提供受控的信息交换与工作协调方式。其机制包括管道、消息队列、套接字、信号、共享映射以及各种事件通知设施。这些机制的区别在于:传输的是字节还是结构化消息,是否保留消息边界,是否标识发送方,以及是否会阻塞直至另一参与方取得进展。内核提供保护机制和生命周期规则,使互不信任的程序之间能够通信。
基于消息的通信可以先将发送方的数据复制到内核管理的存储空间,再复制到接收方。复制简化了所有权管理,因为内核接受消息后,发送方便可修改原始缓冲区。对于大规模传输,系统也可以改为共享或重新映射内存页,以减少数据搬移,但代价是访问控制和生命周期管理更加复杂。“零拷贝”通常描述的是某条特定的数据路径,并不保证系统中的任何地方都不会发生复制。
共享内存允许各进程通过各自的虚拟地址访问同一底层存储。映射建立后,普通的加载和存储操作就能传递信息,无须每次操作都进行系统调用。不过,共享内存不会自动协调访问。程序仍然需要制定协议,处理所有权、操作顺序、通知,以及参与方发生故障时的恢复。如果某个参与方先看到了标志,随后才看到该标志本应告知其已就绪的数据,那么通信通道即使很快,也仍可能存在正确性问题。
阻塞与唤醒是协调过程中的核心操作。线程必须避免唤醒丢失的竞态条件:事件在线程检查条件之后、实际开始等待之前发生。内核等待队列和同步原语以精确定义的方式将这些操作衔接起来。Linux 的 futex(快速用户空间互斥锁)体现了一种混合方式:不存在竞争时,操作可以在用户空间完成;出现竞争而需要等待与唤醒时,则由内核提供支持。共享的用户空间值与内核等待操作仍须遵循接口规定的操作顺序规则。
通信还涉及身份与权限问题。本地通信端点可以提供对端的凭据信息;传递句柄可以授予对某项资源的访问权限,而无须透露该资源的全局名称。微内核系统往往将此类传递作为服务调用的核心环节。在分布式应用中,本地内核机制通常只负责将消息传送到网络接口;故障、重试以及端到端一致性仍由更高层处理。将数据可靠地送达本地缓冲区,并不意味着另一个进程或另一台计算机已经完成所请求的操作。
设备驱动程序、中断与输入/输出
设备驱动程序将操作系统的请求转换为硬件设备或虚拟设备接口能够理解的操作。驱动程序负责初始化设备、管理命令队列、处理完成事件,并通过系统的抽象接口提供设备功能。驱动程序可以控制存储设备、网络适配器、输入设备,以及图形处理器等加速器。它们既要考虑设备特有的行为,也必须遵守内核在内存、同步和电源管理方面的规则。
设备通过内存映射寄存器、基于端口的输入/输出、共享队列和中断等机制进行通信。访问寄存器可能产生与访问普通内存不同的效果:读取可能会确认某个事件,而写入可能会启动某项操作。因此,驱动程序需要使用适合相应体系结构的访问原语,并遵循相应的访问顺序要求。对于普通内存无害的缓存或访问重排序,可能导致设备行为异常。设备规范还会规定在初始化、复位和关闭期间允许执行哪些操作。
直接内存访问允许设备向内存传输数据或从内存读取数据,而不必由处理器逐个数据单元进行复制。内核负责准备缓冲区,并提供设备可用的地址。这些地址不一定与驱动程序使用的虚拟地址一致;在使用输入/输出内存管理单元时,它们甚至可能与处理器可见的物理地址不同。这种输入/输出内存管理单元(IOMMU)能够转换设备访问所用的地址,并限制设备可以访问的内存范围,但能否实现有效隔离,仍取决于配置是否正确以及硬件具备哪些能力。
中断驱动的输入/输出使处理器能够在设备工作期间执行其他任务,但如果每个小事件都触发一次中断,开销就会很大。驱动程序通常会合并通知、推迟较繁重的处理,或在高负载下转向轮询。网络接收路径就是一个典型例子:批量处理数据包可以减少反复进入处理流程的开销。在专用的高性能环境中,轮询也可以降低延迟;但如果管理不当,即使几乎没有任务到来,它仍会消耗处理器时间。
当驱动程序在具有特权的内核中运行时,其故障的后果尤其严重。无效内存访问、不正确的同步或设备复位处理不当,都可能影响整个系统。用户空间驱动程序增加了一道故障隔离边界,但仍需要以安全的方式访问设备寄存器、中断和 DMA 映射。热插拔进一步增加了生命周期管理的复杂性:在请求尚未完成时,设备就可能消失。正确的清理流程必须停止接收新任务,将待处理操作完成或标记为失败,并防止延迟回调访问已经释放的数据结构。
文件、存储与持久状态
文件系统组织持久化数据,并提供命名、读取、写入和访问元数据等操作。内核通常为多种文件系统实现提供统一接口。虚拟文件系统层可以将操作分派到本地磁盘、网络存储、内存文件,或用于表示系统对象的合成接口。这种统一性并不意味着各类实现提供相同的保证:本地日志文件系统与远程文件服务在发生故障或并发访问时,可能表现出不同的行为。
名称与已打开对象的生命周期并不相同。路径名通过命名层次结构标识一个条目,而已打开的文件描述符或句柄则指向内核已经解析得到的对象。在类 Unix 系统上,删除目录项不一定会立即销毁底层文件;只要仍有打开的引用,文件就可能继续可用。内核必须协调目录变更、缓存的名称查找结果、对象引用和权限检查,使并发操作所呈现的行为符合接口约定。
缓存至关重要,因为访问存储通常远慢于访问内存。内核可以从缓存页中满足读取请求,并推迟写入,以合并操作或提高吞吐量。因此,写入请求成功并不等于数据已持久保存。fsync 等同步操作会请求更强的持久性保证,但其确切保证取决于文件系统、存储栈和设备。硬件写缓存及设备在断电时的行为都是持久化链条的一部分,并非软件总能忽略的细节。
崩溃一致性关注的是意外关机后,哪些内容仍然有效。日志机制将选定的变更记录在日志中,以便恢复时完成或丢弃中断的更新。写时复制文件系统则先写入数据结构的新版本,再使其能够从已提交的根节点访问到。这两种方法都需要精心安排操作顺序,而且都不会自动让应用程序对多个文件的每次更新都具备事务性。数据库管理系统可以在内核存储接口之上,使用自身的日志与恢复协议。
在文件系统之下,块层负责调度请求并将其提交给存储设备。固态存储的性能特征与旋转磁盘不同,而现代接口支持多个提交队列和完成队列。内核还必须处理错误、超时、设备移除、弃置请求和容量变化。异步输入/输出允许应用程序同时保持大量操作处于进行中,而不必为每项操作专门占用一个阻塞线程,但缓冲区归属和完成顺序仍是接口约定的一部分。因此,存储持久性是应用程序、内核、控制器和存储介质共同协调实现的特性。
网络与数据包处理
内核网络栈将应用程序的通信接口与网络设备连接起来,并实现各类协议的行为。应用程序通常使用套接字,而内核则负责管理寻址、路由、缓冲、传输状态,以及将数据交付给正确的端点。TCP/IP协议族提供了广泛使用的跨网络通信规范。套接字本身并不是协议:同一套通用接口可以支持面向流、面向数据报、本地通信等多种通信类型。
接收数据时,网络适配器将数据包内容写入内存,并报告已完成的工作。内核识别相应协议,校验首部,执行适用的过滤操作或策略,并决定交付、转发还是丢弃该数据包。向应用程序交付数据时,可能需要先将数据放入队列,等待应用程序读取。发送数据时,处理路径则反向进行,包括添加协议首部、选择路由、按需安排分段,并向设备提交任务。
对于传输控制协议(TCP),内核通常会跟踪连接状态、序列号、确认、重传以及接收窗口。内核还会实现拥塞控制,使发送行为适应网络状况。这些机制各有用途:流量控制防止发送量超出接收方的处理能力,拥塞控制则应对传输路径上的容量限制。数据报服务提供的保障有所不同,应用程序也可以在用户空间实现额外的传输机制。例如,QUIC 协议通常运行于 UDP 之上,而不是作为内核的 TCP 传输实现的一部分。
在高包速率下,内存分配、数据复制、缓存局部性和同步都会对性能产生显著影响。内核通过批处理、多设备队列、接收端分流和硬件卸载来减少每个数据包的处理工作量。卸载功能可能包括校验和计算或分段,但软件仍须正确描述缓冲区,并处理能力各异的设备。软件内部处理路径中一个看似很大的数据包,可能代表稍后将由硬件拆分成多个数据包发送的数据。
一些高性能应用程序通过映射到自身地址空间的队列和专门的处理机制,绕过传统内核数据路径中的很大一部分。这可以减少开销,但也转移了资源分配、协议处理和隔离方面的责任。另一些方案则允许受限程序在网络栈内部或其旁侧运行;Linux 的 eBPF 基础设施支持在多个挂钩点运行经过验证的程序,其中包括数据包处理位置。网络虚拟化还会通过虚拟接口、网桥、隧道和过滤规则引入额外的转换。因此,实际观测到的性能取决于数据包经过的整条路径,而不只是某个协议实现单独运行时的速度。
安全边界与访问控制
内核是实施信息安全保护的关键环节,因为跨越保护边界的操作都要经过内核的管控。内核会检查调用者是否有权访问文件、向其他进程发送信号、映射内存、配置设备或更改系统级设置。这些检查取决于调用者的凭据、请求执行的操作、目标对象以及当前生效的安全策略。身份认证通常由上层组件完成,用于确定身份;随后,内核会根据该身份和执行上下文所对应的权限实施控制。
传统的访问控制模型将用户和组与对象上的权限关联起来。其他机制则提供强制性策略、标签、受限特权或细粒度的对象权限。在基于能力的安全机制中,不可伪造的引用赋予持有者对某个对象执行指定操作的权限。这里需要注意术语的区别:Linux 的“能力”(capabilities)将传统上属于超级用户的特权加以拆分,并不等同于对象能力模型。有效的安全分析需要考察进程实际拥有哪些权限、如何转移这些权限,以及哪些操作会受到检查。
内核以及其他必须正确运行才能维持安全策略的组件,构成了可信计算基的一部分。缩小这一基础的规模,有助于降低推理和验证的难度,但代码量本身并不能衡量安全性。硬件行为、启动配置、驱动程序、特权服务和管理接口都可能影响安全。微内核的隔离机制可以限制某些故障的影响范围,但服务器一旦被攻陷,其合法控制的所有资源仍可能暴露给攻击者。
内存损坏错误是内核漏洞中的一大类。缓冲区溢出、释放后使用或无效指针操作,都可能导致特权数据被破坏,或使控制流被非法改变。缓解措施包括地址空间随机化、不可执行映射、栈保护、控制流限制,以及内存安全的实现技术。但这些措施都不能取代正确的授权检查和生命周期管理。即使一个例程完全具备内存安全性,如果它检查了错误的身份,或授予了过多权限,仍然可能泄露受保护的数据。
有些攻击利用的是信息泄露,而不是直接违反体系结构规定的访问权限。共享缓存、推测执行、时序以及其他微体系结构行为,都可能导致信息跨越预期的边界而泄露。2018 年披露的 Spectre(幽灵)和 Meltdown(熔断)漏洞,表明处理器设计与操作系统隔离机制之间的相互作用至关重要。缓解这些问题可能需要调整页表组织方式、切换路径、调度方式和硬件控制机制,有时还会带来随工作负载而异的性能开销。因此,内核安全是相对于某个威胁模型而言的,不能仅凭某一项保护功能,或假定特权执行天然安全,就认定内核是安全的。
启动、初始化与电源状态转换
内核通过一系列涉及硬件初始化、固件以及通常还包括引导加载程序的步骤开始运行。统一可扩展固件接口等固件接口会准备执行环境,并提供定位引导软件的方法。引导加载程序将内核及相关数据放入内存,再按照特定体系结构的启动协议移交控制权。此时传递的信息可能包括内存映射、命令行参数、初始文件系统映像,以及可用硬件的描述。
内核开始执行时,许多常规服务尚未建立。内核会建立必要的内存映射,初始化处理器状态,创建自身的内存管理结构,并配置异常和中断处理机制。它可能先在单个处理器上运行,然后再使其他处理器上线。硬件发现依赖于平台特定的信息来源,例如固件表、设备树和总线枚举。初始化过程必须避免循环依赖:例如,在完整的设备框架或存储协议栈可用之前,可能就需要一个诊断控制台。
随后,内核必须建立对正常运行所需资源的访问能力。Linux 系统通常使用初始内存文件系统,其中包含早期用户空间工具,以及查找或准备最终根文件系统所需的驱动程序。当存储设备需要解密、组装逻辑卷或使用专用驱动程序时,这种方式尤为有用。所需环境准备就绪后,系统便启动首个主要的用户空间进程。在许多 Linux 发行版中,这个进程由 systemd 初始化系统管理,但选择哪种服务管理器并不是内核的固有属性。
安全启动和度量启动针对这一过程解决的是不同问题。安全启动通过基于签名的策略,限制允许执行的组件。度量启动则记录已加载组件的信息,以便后续软件评估启动状态。这两种机制本身都不能证明获准运行的组件不存在漏洞,也不能证明运行中的系统始终未遭入侵。它们的有效性取决于密钥管理、配置、更新流程,以及验证链或度量链的覆盖范围。
电源管理同样需要协调一致的状态转换。挂起系统时,需要让设备停止活动、保存必要状态,并安排唤醒途径;恢复运行时,则必须按正确顺序恢复硬件。休眠还需要将内存映像保存到持久存储中。运行时电源管理可以在机器其他部分继续运行的同时,挂起个别设备。故障往往出现在依赖关系的交界处,例如,设备所用的内存已不可访问,却仍在发起 DMA 操作。关机和重启也需要按顺序进行,以停止接收新任务、尽可能将待持久化的状态写入存储,并将控制权移交给平台机制。
虚拟化、容器与资源划分
虚拟化引入了另一层资源控制。虚拟机监控器创建执行环境,向客户操作系统呈现虚拟硬件。每个客户操作系统都可以运行自己的内核,调度客户系统中的进程,并管理客户系统可见的内存和设备。虚拟机监控器或宿主系统控制这些虚拟资源如何映射到物理资源。因此,即使虚拟机与普通进程环境最终依赖的是同一套物理处理器和内存,两者仍有区别。
硬件虚拟化允许客户内核直接执行许多指令,同时拦截特定操作。内存地址转换通常分为两个阶段:客户系统将其虚拟地址映射到客户物理地址,虚拟化层再将这些地址映射到实际机器内存。客户系统中的缺页异常与第二阶段地址转换中的异常是两种不同的事件。虚拟设备可以通过模拟实现,也可以通过支持虚拟化的接口提供,或以更直接的方式分配给客户系统;这些方式对性能、兼容性和隔离性的影响各不相同。
内核与虚拟机监控器之间的界限,并不总是两种独立软件产品之间的界限。Linux 的 KVM 机制将内核对虚拟化的支持与用户空间组件结合使用,后者通常负责机器配置和设备模型。其他系统则在一个或多个操作系统之下设置专用的虚拟机监控器。传统上,1 型与 2 型虚拟机监控器的区别描述的是大体上的部署方式,但现代实现并不总能清晰地归入这种简单的层级结构。
操作系统容器通常共享宿主内核,而不运行单独的客户内核。隔离机制限制进程所能看到的标识符、文件系统挂载、网络及其他资源。资源控制机制则可以统计和限制处理器时间、内存使用量及输入/输出。Linux 命名空间和控制组是其中的典型例子,但它们解决的是不同问题:独立的命名本身并不会强制实施内存限制,而资源限制也不一定会隐藏其他进程。
这种共享内核的安排通常使容器比完整的虚拟机更轻量,但其安全边界所依赖的条件也有所不同。容器内可触及的内核漏洞可能威胁宿主系统,具体取决于可用权限和缓解措施。另一方面,虚拟机仍依赖于虚拟机监控器接口和设备实现的正确性。在云计算中,这些技术往往结合使用,让容器运行在虚拟机内部。资源保障必须将所有层次都考虑在内:客户系统的调度器可以选出一个可运行的任务,却无法强制宿主系统立即调度其虚拟处理器。
实时内核与嵌入式内核
实时操作系统的设计以时限要求为核心,而不只是追求较高的平均速度。在硬实时场景中,未能在规定的截止时间前完成任务,在所采用的模型下就构成系统失效。在软实时场景中,偶尔超时会降低服务质量,但不一定意味着系统失效。即使通用内核运行速度很快,如果它偶尔会将关键工作推迟一段没有上界或难以准确界定的时间,也仍可能不适用。
要实现可预测的调度,就必须关注最坏情况下的行为。中断延迟衡量的是中断服务开始前的等待时间;调度延迟或分派延迟则关注就绪任务何时真正开始运行。内核中较长的不可抢占执行路径、中断禁用、锁竞争以及不受控制的内存分配,都可能增加这些延迟。因此,实时系统的设计会限制临界区,提供适当的优先级机制,并且通常避免在有严格时限要求的执行路径上使用请求分页。相关延迟上界针对的是特定的硬件和软件配置,而不是孤立的内核。
固定优先级调度和基于截止时间的调度适用于不同的分析方法。在理想化假设下,如果一组周期任务相互独立、可被抢占、运行于单个处理器上,且各任务的截止时间等于其周期,那么当总利用率满足以下条件时,最早截止时间优先调度就能为这组任务生成可行的调度:
其中, 是各任务所需的执行时间, 是其周期。实际系统还存在阻塞、中断开销、任务释放抖动以及其他约束,因此,这一表达式并不能为任意工作负载提供普遍保证。
嵌入式内核的规模差异很大。小型微控制器可能没有内存管理单元,各任务也可能在共享地址空间中运行。其内核仍可提供调度、定时器、队列和同步功能,但无法依赖基于页的隔离机制。FreeRTOS 和 Zephyr 等系统面向嵌入式环境,而另一些嵌入式产品则使用对内存和存储空间要求更高的通用内核。有些设备只运行一个固件程序,根本没有可单独辨识的内核。
安全相关系统除了需要时序分析之外,还可能需要有关失效行为、配置控制和开发流程的证据。分区式设计可以在关键程度不同的组件之间分配处理器时间和内存,并在其所依赖的假设成立时减少组件间的干扰。通用 Linux 也可以通过配置获得更强的实时能力;PREEMPT_RT 项目减少了许多不可抢占区段,并改变了相当一部分中断和锁操作的处理方式。无论是“实时”标签,还是某一种调度策略,都不能单独证明系统适用:设备行为、执行时间上界、同步机制以及过载处理仍然至关重要。
开发、验证与性能评估
内核开发将软件工程与对机器级行为的精细控制相结合。大型内核主要使用系统编程语言编写,历来以 C 和汇编语言为主,一些项目也开始在部分组件中采用 Rust。对于入口处理序列、处理器状态转换等高级语言无法直接表达的操作,汇编语言仍不可或缺。为实现可移植性,通常会在共享的调度、存储、网络及其他子系统之下,设置与具体体系结构相关的层。
兼容性涉及多个接口边界。稳定的系统调用接口使旧应用程序即使在内部实现发生变化后,也能继续运行。内部驱动程序接口则可能采用不同的策略,随内核演进而调整。二进制兼容性还取决于调用约定、结构体布局、目标文件格式以及体系结构细节。应用程序的应用程序编程接口可能部分由库提供,而非直接由内核提供,因此必须区分源代码兼容性与二进制兼容性。
测试涵盖单元测试、集成工作负载测试、设备测试、压力测试、故障注入和模糊测试。内核模糊测试工具会生成不寻常的系统调用序列和输入,以暴露状态处理、有效性检查及同步方面的错误。运行时错误检测工具和调试配置可以检测非法内存访问、数据竞争、锁顺序问题以及资源泄漏。这些技术有助于发现缺陷,但无法穷尽测试所有可能的交错执行情况、设备或故障条件。要复现罕见的并发错误,可能需要记录精确的时序和配置信息。
形式验证通过对模型及其实现进行数学推理,验证特定的正确性断言。2009 年,seL4 项目报告称,已完成一项经机器检查的功能正确性证明,将一个通用微内核的形式化规约与其 C 语言实现联系起来。这类成果的意义取决于所证明的确切定理及其假设。编译器行为、汇编例程、硬件、设备交互和配置可能不在某项证明的范围内,即便相关项目证明了其他性质,也不例外。经过验证的内核机制,也不会自动保证基于这些机制构建的所有应用程序或系统策略都经过验证。
性能评估必须区分延迟、吞吐量、公平性、能耗和可扩展性。对系统调用入口进行的微基准测试无法预测数据库吞吐量,而最大网络带宽也几乎无法说明内存压力下的尾延迟。有价值的评估应考察具有代表性的工作负载,并通过跟踪、性能剖析和硬件计数器确定时间耗费在何处。结果取决于处理器拓扑、缓存状态、安全缓解措施、存储和配置。测量插桩本身也可能扰动调度和缓存行为,因此测量开销与可复现性是实验的一部分,而非无关紧要的细节。