擦除编码
MinIO 将擦除编码作为提供数据冗余和可用性的核心组件实现。此页面介绍了 MinIO 擦除编码。
请参阅 可用性和弹性 和 部署架构 了解有关 MinIO 如何在生产部署中使用擦除编码的更多信息。
擦除编码基础
注意
本节中的图表和内容展示了 MinIO 擦除编码操作的简化视图,并非旨在代表 MinIO 完整擦除编码实现的复杂性。
- MinIO 将每个 服务器池 中的驱动器分组到一个或多个相同大小的 擦除集 中。
-
MinIO 在初始化 服务器池 时确定擦除集的最佳数量和大小。在初始设置后,您无法修改这些设置。
- 对于每个写入操作,MinIO 将对象划分为 数据 和 奇偶校验 分片。
擦除集条带大小决定了部署的最大可能的 奇偶校验。确定要生成的数据分片和奇偶校验分片数量的公式为
N (ERASURE SET SIZE) = K (DATA) + M (PARITY)
- 您可以在 0 到 1/2 擦除集大小之间设置奇偶校验值。
-
如果稍后更改奇偶校验值,使用给定奇偶校验设置写入的对象不会自动更新。
- MinIO 需要至少
K
个任何类型的分片才能 读取 对象。 此处的值
K
构成部署的 读取仲裁。因此,擦除集必须至少具有K
个健康的驱动器才能支持读取操作。MinIO 无法重建已丢失读取仲裁的对象。可以通过其他方法恢复此类对象,例如 复制重新同步。
- MinIO 需要至少
K
个擦除集驱动器才能 写入 对象。 这里的
K
值代表部署的**写入仲裁**。因此,擦除集必须至少有K
个可用的在线驱动器才能支持写入操作。- 如果奇偶校验
EC:M
正好是擦除集大小的 1/2,则**写入仲裁**为K+1
。 这可以防止出现诸如网络问题将擦除集驱动器的一半与另一半隔离开来的脑裂情况。
K+1
逻辑确保客户端不能潜在地将同一个对象写入两次 - 一次写入擦除集的每个“一半”。- 对于维护**读取仲裁**的对象,MinIO 可以使用任何数据或奇偶校验分片来修复损坏的分片。
使用 MinIO 擦除编码计算器 来探索您计划的拓扑结构可能的擦除集大小和分布。在可能的情况下,使用节点数量和每个节点的驱动器数量都为偶数,以简化拓扑结构规划和对驱动器/擦除集分布的概念化。
对驱动器的独占访问
MinIO **需要**对用于对象存储的驱动器或卷进行独占访问。任何其他进程、软件、脚本或人员不应直接对提供给 MinIO 的驱动器或卷或 MinIO 放置在其上的对象或文件执行任何操作。
除非由 MinIO 工程师指示,否则不要使用脚本或工具直接修改、删除或移动提供驱动器上的任何数据分片、奇偶校验分片或元数据文件,包括从一个驱动器或节点到另一个驱动器或节点。此类操作很可能会导致广泛的损坏和数据丢失,超出 MinIO 的修复能力。
擦除奇偶校验和存储效率
为部署设置奇偶校验是在可用性和总可用存储之间取得平衡。较高的奇偶校验值可以提高对驱动器或节点故障的恢复能力,但会以可用存储为代价,而较低的奇偶校验值可以提供最大存储空间,但对驱动器/节点故障的容忍度较低。使用 MinIO 擦除编码计算器 来探索奇偶校验对您计划的集群部署的影响。
下表列出了在一个由 1 个节点和 16 个 1 TB 驱动器组成的 MinIO 部署中,不同擦除编码奇偶校验级别产生的结果。
奇偶校验 |
总存储空间 |
存储比率 |
读取操作所需的最小驱动器数量 |
写入操作所需的最小驱动器数量 |
---|---|---|---|---|
|
12 梯字节 |
0.750 |
12 |
12 |
|
10 梯字节 |
0.625 |
10 |
10 |
|
8 梯字节 |
0.500 |
8 |
9 |
位腐烂保护
位腐烂 是存储介质级别随机更改导致的静默数据损坏。对于数据驱动器,它通常是由于表示数据的电荷或磁性方向衰减所致。这些来源可以从停电期间的小电流尖峰到导致位翻转的随机宇宙射线。由此产生的“位腐烂”会导致数据介质上的细微错误或损坏,而不会触发监控工具或硬件。
MinIO 对HighwayHash 算法 的优化实现确保它能够捕获并修复损坏的对象。从应用程序到网络以及到内存或驱动器的端到端完整性通过在 READ 时计算哈希并验证 WRITE 时计算哈希来确保。该实现专为速度而设计,可以在英特尔 CPU 上的单个内核上实现超过 10 GB/秒的哈希速度。