数据库分片是将一个数据库划分为若干较小部分的方法,这些部分称为分片,可以存储在不同的服务器或服务器组上,并由它们处理。每个分片包含整体数据的一个子集,而应用程序或数据库系统则将所有分片视为一个逻辑整体。分片支持水平扩展:通过增加机器来提升容量,而不只是增加单台机器的资源。分片的效果取决于如何划分数据与工作负载、如何将请求发送到正确的分片,以及如何协调跨多个分片的操作。
与分区及复制的关系
分片通常被理解为水平数据库分区的一种分布式形式。水平分区将记录划分为若干组,通常依据一个或多个列的值进行划分。在关系数据库中,各分片通常采用相同的逻辑表结构,但存储不同的行。其他数据库模型则可能将文档、键值对或图数据分散存储。
分区并不一定意味着数据分布在多台机器上。数据库可以在单台服务器内对表进行分区,以便维护、管理存储或优化查询。分片则将分区部署在独立配置的数据库实例或存储组中,不过不同系统使用的术语有所差异。
垂直分区则是将属性或表组分开存储。例如,可以将客户资料与体积较大的个人资料图片分别存储。这与将客户划分到不同分片、使每个分片包含部分客户的做法不同。
分片也不同于数据库复制:
- 分片将不同的数据子集分散存储,主要用于提升存储容量和处理吞吐量。
- 复制维护同一份数据的多个副本,主要用于提高可用性、持久性或读取能力。
这两种技术经常结合使用。一个逻辑分片可以由一组复制节点组成,而不是仅由一台服务器构成。因此,只要复制系统能够继续运行,单台服务器失效就不一定会导致其所属分片不可用。
分片键与数据放置
分片键是用于确定一条记录应归属何处的属性或属性组合。例如,客户标识符、租户标识符、地理区域和时间戳都可以用作分片键。
分片键不必与记录的主键相同。一条记录可以具有全局唯一的订单标识符,却按照客户标识符确定存储位置。这种安排便于一次检索某位客户的所有订单,但如果仅凭订单标识符查找订单,可能就需要额外执行一次查找。
合适的分片键需要在几项相互制约的特性之间取得平衡:
- **分布性:**记录和请求不应过度集中在少数分片上。
- **局部性:**经常一起访问的记录最好存储在一起。
- **路由能力:**常见查询应包含足够的信息,以确定其目标分片。
- **稳定性:**键值的变化不应频繁导致记录迁移。
- **增长适应性:**新增数据不应持续使系统的某一部分过载。
仅有高基数并不能保证良好的分布。即使存在数百万个不同的客户标识符,如果大部分请求都来自少数客户,工作负载仍可能分布不均。
基于范围的分片
基于范围的分片将连续的键值区间分配给各个分片。例如,不同分片可以分别存储连续数值区间内的客户标识符,或不同时间段的事件。
这种安排保留了键的顺序,有利于高效执行范围查询。然而,时间戳等单调递增的键可能使几乎所有新写入都集中到存储最新区间的分片。拆分该区间有助于控制其数据规模,但如果所有新记录仍然写入最新区间,就不一定能分散写入负载。
基于哈希的分片
基于哈希的分片对分片键应用哈希函数,并使用计算结果选择分区。一种简单方案是:
其中, 为键, 为哈希函数, 为分片数量。
这种方式可以使不同的键分布得相对均匀,但改变 可能会改变大量记录的目标位置。它还会破坏连续键值在存储位置上的局部性,因此范围查询可能需要访问许多分片。
一致性哈希以及通过逻辑分区进行间接映射,可以减少容量变化时需要重新分配的数据量。但这两种技术都无法消除某个特别热门的键所造成的访问不均。
基于目录的分片
基于目录的分片使用映射服务或查找表,将键、租户或逻辑分区与实际存储位置关联起来。这使得数据放置更加灵活,也便于进行有针对性的迁移。
目录由此成为系统的重要依赖。它的可用性、一致性、缓存机制和更新协议都会影响路由的正确性。在实践中,基于目录的系统也可能使用范围或哈希规则,将记录分配到逻辑分区。
基于地理位置和租户的分片
数据可以按地理区域分组,也可以在多租户服务中按租户分组。按区域放置数据可以降低本地用户的网络延迟,并满足特定地点的存储要求。按租户放置数据可以将同一租户的相关记录保存在一起,简化租户级管理。
这些方式可能造成显著的不均衡。单个租户的数据规模可能超出整个分片的容量,而地理上分散的租户又可能需要跨区域访问。因此,系统可能在按地理位置或租户分组的基础上,进一步细分数据。
查询路由与执行
分片系统需要一种机制,将逻辑请求转换为对实际分片的操作。路由逻辑可以位于应用程序代码、客户端库、代理中,也可以由数据库管理系统本身提供。
包含分片键的请求通常可以直接发送到一个分片。如果没有可用于路由的谓词条件,系统可能需要执行分散—汇总查询:将任务发送到多个分片,收集各分片的响应,再合并结果。
分布式执行会带来一些在单台服务器内不存在或较小的开销:
- 网络通信与序列化;
- 协调与中间结果传输;
- 合并有序结果及计算全局聚合值;
- 等待响应较慢的分片;
- 处理部分故障与重试。
分布式查询优化器可以将筛选和聚合操作下推到分片,以减少数据传输量。有些聚合结果很容易合并:将各分片的局部计数相加,即可得到全局计数。全局平均值则需要结合各分片的总和与计数进行计算,而不能简单地对各分片的平均值再取平均。
连接与索引
相关记录位于同一分片时,连接操作会更简单。例如,使用相同的、基于客户的分片键来放置客户及其订单,可以让许多连接操作在分片内部完成。跨分片连接可能需要广播较小的关系、重新分布记录,或从远端获取匹配记录。
数据库索引可以由每个分片在本地维护,也可以作为分布式结构维护。本地索引维护起来更简单,但如果索引查找不包含分片键,仍可能需要搜索所有分片。全局索引支持其他访问路径,但也会带来额外的协调、存储和一致性要求。
事务与一致性
仅限于一个分片内的数据库事务,通常可以使用该分片常规的事务处理机制。涉及多个分片的事务若要作为一个整体提交或中止,就需要额外的协调。
一种方法是两阶段提交:各参与方先进入准备阶段,然后接收提交或中止的决定。这会增加网络交互,并可能在决定尚未确定时持续占用锁或其他资源。故障恢复方式取决于参与方与协调者如何记录自身状态及处理故障。
一些分布式数据库将事务协议与复制日志及分布式共识相结合。分片本身既不保证也不妨碍ACID特性的实现;具体保证取决于数据库的实现与配置。
另一些设计则围绕必须保持原子性的操作来确定分片边界,从而避免大量跨分片事务。应用程序也可以使用带有补偿操作的异步工作流,但它们并不提供与单个原子事务相同的语义。
同样,分片本身并不意味着最终一致性。一致性行为取决于复制机制、事务隔离、路由及故障处理方式。CAP定理讨论的是网络分区期间的一致性与可用性,而不是说分片数据库普遍都必须放弃事务。
再平衡与重新分片
随着数据量和流量发生变化,最初的分片布局可能不再适用。再平衡通过移动数据或逻辑分区来重新分配负载。重新分片则改变分区边界、分片数量,有时也会改变分片键;这些术语的具体用法因系统而异。
在线迁移通常包括以下步骤:
- 将相关数据的初始版本复制到目标位置;
- 捕获并应用复制期间发生的变更;
- 协调数据归属与路由的变更;
- 在旧副本不再需要后将其移除。
变更数据捕获或数据库日志可以帮助传输并发更新。切换过程必须避免遗漏写入、意外的重复操作效果,以及数据归属冲突。使用缓存路由信息的客户端可能需要刷新映射表,或按照重定向访问新的位置。
迁移会消耗存储空间、网络带宽和处理能力。如果系统已经接近容量上限,就可能难以在不影响正常流量的情况下完成再平衡。
运维方面的局限
热点与负载不均
热点是指流量集中在某个分片、键值范围或单个键上的现象。记录数量均衡并不意味着负载均衡:不同记录的大小、访问频率和计算开销各不相同。
负载均衡可以在机器之间转移处理职责,但并不总能拆分一条不可分割的热点记录。缓存、拆分逻辑实体或增加只读副本等缓解措施各有不同的影响,并不能解决所有写入瓶颈。
约束与标识符
在单个分片内强制保证唯一性,通常比在全局范围内保证唯一性更简单。全局唯一性可能需要协调机制、分布式索引,或专门用于避免冲突的标识符生成方案。
同样,跨分片的外键可能需要远程检查与协调更新。一些系统限制使用此类约束,另一些系统则通过额外的分布式处理来支持它们。将检查移至应用程序代码,只是改变了约束的执行位置,并没有消除底层问题。
备份、恢复与管理
各分片在不同时间独立完成的备份,合在一起并不一定构成逻辑数据库在事务上一致的备份。数据备份与恢复流程可能需要协调快照、日志位置,或采用其他方法重建一致状态。
模式变更、软件升级、监控和容量规划也必须考虑多个独立运行的组件。在滚动变更期间,应用程序和各分片可能暂时使用不同版本的数据库模式。
分片可以减少单个分片故障所影响的数据范围,但共享的路由器、数据放置服务、事务协调者和基础设施仍可能形成更大的故障域。
发展与应用
分片建立在分布式计算、并行数据库和无共享架构等领域的早期研究与实践之上。早在大型互联网服务广泛采用分片之前,就已经存在将数据分布到独立处理节点上的做法。不断增长的 Web 工作负载,以及后来云计算的发展,推动了对这类系统的需求:它们能够将存储和请求分散到可扩展的机器集群中。
关系数据库和 NoSQL数据库系统都采用分片。当数据规模、写入吞吐量或总体处理需求超出单台数据库服务器的实际承载能力时,分片尤其有用。它也用于隔离租户,或将数据放置在靠近用户的位置。
分片的收益取决于工作负载。始终在单个分片内完成的查询可以有效扩展,而频繁的全局连接、跨分片事务和大范围扫描则可能产生高昂的协调开销。因此,分片是以牺牲单个数据库实例的简单性为代价,换取更大的总体容量,同时也带来更复杂的分布式运维。