核心操作概念
MinIO 部署的组件有哪些?
MinIO 部署由一组存储和计算资源组成,这些资源运行一个或多个 minio server
节点,这些节点共同充当单个对象存储库。
独立的 MinIO 实例由一个服务器池组成,该服务器池包含一个 minio server
节点。独立实例最适合于初始开发和评估。
MinIO 部署可以直接在 裸机
或非虚拟化基础设施中的物理设备上运行。或者,MinIO 可能会在云服务上的虚拟机中运行,例如使用 Docker、Podman 或 Kubernetes。MinIO 可以在本地、私有云或市场上提供的众多公共云中的任何一个中运行。
您设计、架构和构建系统的方式称为系统的 拓扑
。
MinIO 支持哪些系统拓扑结构?
MinIO 可以部署到三种拓扑结构
分布式 MinIO 部署是如何工作的?
分布式部署利用多个物理或虚拟机的计算和存储资源。在现代情况下,这通常意味着在私有或公共云环境中运行 MinIO,例如亚马逊网络服务、谷歌云平台、微软 Azure 平台或许多其他平台。
MinIO 如何管理多个虚拟或物理服务器?
虽然测试 MinIO 可能只需要一台计算机上的一个驱动器,但大多数生产 MinIO 部署使用多个计算和存储设备来创建高可用性环境。服务器池是 minio server
节点的集合,这些节点将它们的驱动器和资源集中在一起以支持对象存储写入和检索请求。
MinIO 支持将一个或多个服务器池添加到现有的 MinIO 部署中以进行横向扩展。当 MinIO 有多个服务器池可用时,单个对象始终写入同一服务器池中的同一擦除集。
如果一个服务器池出现故障,MinIO 会停止对所有池的 I/O,直到集群恢复正常运行。您必须将池恢复到工作状态才能恢复对部署的 I/O。在您执行修复操作时,写入其他池的对象将在磁盘上保持安全。
传递给 minio server
命令的 HOSTNAME
参数代表一个服务器池。
考虑以下示例启动命令,它创建了一个包含 4 个 minio server
节点(每个节点有 4 个驱动器,总计 16 个驱动器)的单个服务器池。
minio server https://minio{1...4}.example.net/mnt/disk{1...4}
| Server Pool |
在同一 minio server
启动命令中启动服务器池可以使所有服务器池对等体都能感知到。
有关完整语法和用法的详细信息,请参阅 minio server
。
MinIO 如何将多个服务器池链接到单个 MinIO 集群?
集群是指包含一个或多个服务器池的整个 MinIO 部署。
考虑以下命令,该命令创建了一个包含两个服务器池的集群,每个服务器池有 4 个 minio server
节点,每个节点有 4 个驱动器,总计 32 个驱动器。
minio server https://minio{1...4}.example.net/mnt/disk{1...4} \
https://minio{5...8}.example.net/mnt/disk{1...4}
| Server Pool |
每个服务器池都有一个或多个 擦除集,具体取决于池中驱动器和节点的数量。
MinIO 强烈建议生产集群至少包含 4 个 minio server
节点在一个服务器池中,以确保适当的高可用性和持久性保证。
我可以更改现有 MinIO 部署的大小吗?
MinIO 分布式部署 支持扩展和退役作为增加或减少可用存储空间的功能。
扩展包括将一个或多个 服务器池 添加到现有部署中。每个服务器池都包含专用节点和存储,这些节点和存储会为部署的总容量做出贡献。创建服务器池后,您无法更改其大小,但您可以随时通过添加或退役池来添加或删除容量。
有关详细信息,请参阅 扩展 MinIO 租户。
对于具有多个服务器池的部署,您可以 退役 较旧的池并将数据迁移到部署中的较新的池。启动后,退役操作将无法停止。MinIO 旨在将退役操作用于移除具有老化硬件的较旧池,而不是在任何部署中定期执行的操作。
在退役和添加时保持池顺序。
如果您在多池部署中退役了一个池,则无法为新池使用相同的节点序列。例如,考虑一个具有以下池的部署
https://minio-{1...4}.example.net/mnt/drive-{1...4}
https://minio-{5...8}.example.net/mnt/drive-{1...4}
https://minio-{9...12}.example.net/mnt/drive-{1...4}
如果您退役了 minio-{5...8}
池,则无法添加具有相同节点编号的新池。您必须在 minio-{9...12}
之后添加新池。
https://minio-{1...4}.example.net/mnt/drive-{1...4}
https://minio-{9...12}.example.net/mnt/drive-{1...4}
https://minio-{13...16}.example.net/mnt/drive-{1...4}
如何管理一个或多个 MinIO 实例或集群?
有多种选项可用于管理您的 MinIO 部署和集群。
如何管理对象在 MinIO 部署中的分布?
MinIO 通过将新对象(即没有现有版本的对象)写入与所有可用服务器池上的总可用空间相比具有最多可用空间的服务器池,从而优化了对象在可用池中的存储。MinIO 不会执行将对象从较旧池重新平衡到较新池的昂贵操作。相反,新对象通常会路由到新池,因为该池具有最多的可用空间。随着该池的填充,新的写入操作最终会在部署中的所有池中实现平衡。有关写入偏好计算逻辑的更多信息,请参阅以下 写入文件。
在扩展后跨所有池重新平衡数据是一项昂贵的操作,需要扫描整个部署并将对象移动到不同的池之间。这可能需要很长时间才能完成,具体取决于要移动的数据量。
从 MinIO 客户端版本 RELEASE.2022-11-07T23-47-39Z 开始,您可以使用 mc admin rebalance
手动启动跨所有服务器池的重新平衡操作。
重新平衡不会阻塞正在进行的操作,并且与所有其他 I/O 并行运行。这可能会导致常规操作的性能下降。考虑在非高峰时段安排重新平衡操作,以避免影响生产工作负载。您可以在任何时间启动和停止重新平衡操作。
如何将对象上传到 MinIO?
您可以使用任何与 S3 兼容的 SDK 将对象上传到 MinIO 部署。每个 SDK 都执行等效于 PUT 操作的操作,该操作将对象传输到 MinIO 以进行存储。
MinIO 还实现了对 分块上传 的支持,客户端可以将对象拆分为多个部分以提高传输的吞吐量和可靠性。MinIO 会重新组装这些部分,直到它拥有一个完整的对象,然后将该对象存储在指定的路径中。
MinIO 如何提供可用性、冗余性和可靠性?
MinIO 使用 擦除编码 来确保数据冗余和可靠性
MinIO 擦除编码是一种数据冗余和可用性功能,它允许具有多个驱动器的 MinIO 部署即使在集群中丢失多个驱动器或节点的情况下也能自动实时重建对象。擦除编码提供对象级 修复,并且与 RAID 或复制等相邻技术相比,开销明显更低。
MinIO 实现了位腐烂修复以保护静止数据
位腐烂是指任何存储设备上可能会发生的随机、静默的数据损坏。位腐烂损坏不会由用户的任何活动引起,系统操作系统本身也不了解这种损坏,无法通知用户或管理员有关数据更改的信息。
位腐烂的一些常见原因包括
驱动器老化
电流尖峰
驱动器固件中的错误
幽灵写入
错误的读/写操作
驱动程序错误
意外覆盖
MinIO 使用哈希算法来确认对象的完整性。该算法会在对对象进行任何 GET
和 HEAD
操作时自动应用。对于版本化的存储桶中的对象,PUT
操作也可以在 MinIO 识别版本不一致时触发修复。如果对象因位腐烂而损坏,MinIO 可以根据对象的奇偶校验分片可用性自动 修复 该对象。
MinIO 也可以使用 MinIO 扫描器 执行位腐烂检查和修复。但是,扫描器位腐烂检查默认情况下是**关闭**的。与位腐烂影响分布在多个驱动器和节点上的多个对象分片的可能性较低相比,扫描期间的主动位腐烂修复对性能有很大影响。通常,正常操作期间的自动检查足以应对位腐烂,MinIO 不建议使用扫描器进行此类健康检查。
MinIO 将数据分布在 擦除集 中以实现高可用性和弹性
擦除集是一组支持 MinIO 擦除编码 的多个驱动器。擦除编码为存储在 MinIO 部署中的数据提供了高可用性、可靠性和冗余性。
MinIO 将对象划分为块 - 称为 分片 - 并将它们均匀地分布在擦除集中的每个驱动器中。即使丢失任何一个驱动器,MinIO 仍然可以无缝地提供读写请求服务。在最高冗余级别,即使丢失高达一半 (\(N / 2\)) 的部署中的总驱动器数量,MinIO 也可以以最小的性能影响提供读请求服务。
MinIO 根据集合中的总驱动器数量和集合中的 minio
服务器数量来计算服务器池中擦除集的大小和数量。有关更多信息,请参阅 擦除编码基础。
MinIO 自动按需修复损坏或丢失的数据
修复 是 MinIO 在某些事件导致数据丢失后恢复数据的能力。数据丢失可能来自位腐烂、驱动器丢失或节点丢失。
擦除编码 如果对象部分丢失,则提供持续的读写访问权限。
对驱动器的独占访问权限
MinIO 要求 对用于对象存储的驱动器或卷进行独占访问。任何其他进程、软件、脚本或人员不应对提供给 MinIO 的驱动器或卷或 MinIO 在其上放置的对象或文件执行任何直接操作。
除非由 MinIO 工程部门指示,否则不要使用脚本或工具直接修改、删除或移动提供的驱动器上的任何数据分片、奇偶校验分片或元数据文件,包括从一个驱动器或节点移动到另一个驱动器或节点。此类操作很可能导致广泛的损坏和数据丢失,超出 MinIO 的修复能力。
MinIO 使用奇偶校验在对象级别写入数据保护
具有多个驱动器的 MinIO 部署将可用驱动器划分为数据驱动器和奇偶校验驱动器。在写入对象时,MinIO 擦除编码将有关对象内容的额外哈希信息添加到奇偶校验驱动器。MinIO 使用奇偶校验信息来确认对象的完整性,并在必要时恢复给定驱动器或一组驱动器上的丢失、缺失或损坏的对象分片。
MinIO 可以容忍丢失的驱动器总数等于擦除集中可用的奇偶校验设备数量,同时仍然提供对对象的完全访问权限。
使用仲裁提供读写功能
执行任务必须可用的最小驱动器数量。MinIO 具有一个用于读取数据的仲裁和一个单独的用于写入数据的仲裁。
通常,MinIO 要求更多的可用驱动器来维持写入对象的能力,而不是读取对象所需的驱动器数量。