将对象迁移到远程 MinIO 部署
此页面上的步骤创建了一个新的对象生命周期管理规则,该规则将对象从主 MinIO 部署上的存储桶迁移到远程 MinIO 部署上的存储桶。此步骤支持成本管理策略,例如将使用 NVMe 存储的“热”MinIO 部署中的对象分层到使用 SSD 的“温”MinIO 部署中。
需求
安装和配置 mc
此步骤使用 mc
对 MinIO 集群执行操作。在能够访问源和目标集群的网络的机器上安装 mc
。有关下载和安装 mc
的说明,请参阅 mc
的 安装快速入门。
使用 mc alias set
命令为源 MinIO 集群创建别名。创建别名需要为源集群和目标集群上的用户指定访问密钥。指定的用户必须具有 权限 以配置和应用转换操作。
源 MinIO 所需的权限
MinIO 要求以下权限范围限定在您要为其创建生命周期管理规则的存储桶或存储桶。
MinIO 还要求在您为对象转换生命周期管理规则创建远程层级的集群中具有以下管理权限
例如,以下策略提供了在集群中的任何存储桶上配置对象转换生命周期管理规则的权限
{
"Version": "2012-10-17",
"Statement": [
{
"Action": [
"admin:SetTier",
"admin:ListTier"
],
"Effect": "Allow",
"Sid": "EnableRemoteTierManagement"
},
{
"Action": [
"s3:PutLifecycleConfiguration",
"s3:GetLifecycleConfiguration"
],
"Resource": [
"arn:aws:s3:::*"
],
"Effect": "Allow",
"Sid": "EnableLifecycleManagementRules"
}
]
}
远程 MinIO 所需的权限
对象转换生命周期管理规则需要远程存储层级上的其他权限。具体来说,MinIO 要求远程层级凭证提供对远程存储桶的读取、写入、列出和删除权限。
例如,远程 MinIO 部署上的以下策略提供了将对象转换到远程层级内外所需的权限
{
"Version": "2012-10-17",
"Statement": [
{
"Action": [
"s3:ListBucket"
],
"Effect": "Allow",
"Resource": [
"arn:aws:s3:::MyDestinationBucket"
],
"Sid": ""
},
{
"Action": [
"s3:GetObject",
"s3:PutObject",
"s3:DeleteObject"
],
"Effect": "Allow",
"Resource": [
"arn:aws:s3:::MyDestinationBucket/*"
],
"Sid": ""
}
]
}
修改 MinIO 将对象分层到的存储桶的 Resource
。
有关配置所需权限的更完整指南,请参阅 访问管理 文档。
远程存储桶必须存在
在使用该存储桶作为目标配置生命周期管理层级或规则 *之前* 创建远程存储桶。
如果远程存储桶包含现有数据,请使用 prefix
功能将转换后的对象与该存储桶上的任何其他对象隔离。
注意事项
生命周期管理对象扫描程序
MinIO 使用 扫描程序进程 检查对象是否符合所有配置的生命周期管理规则。由于高 IO 工作负载或系统资源有限而导致的扫描缓慢可能会延迟生命周期管理规则的应用。
对远程数据的独占访问
MinIO *需要* 对远程存储层级上的转换数据进行独占访问。“热” MinIO 源上的对象元数据与“温/冷”远程层级上的对象数据紧密关联。MinIO 无法在没有访问远程的情况下检索对象数据,远程也无法用于恢复源上的丢失元数据。
所有对转换对象的访问 *必须* 通过 MinIO 仅使用 S3 API 操作进行。手动修改转换后的对象 - 无论是“热” MinIO 层级上的元数据 *还是* 远程“温/冷”层级上的对象数据 - 可能会导致该对象数据丢失。
MinIO 会忽略远程存储桶或存储桶前缀中任何未由 MinIO 部署显式管理的对象。自动转换和透明对象检索依赖于以下假设
远程存储上的对象没有外部修改、迁移或删除。
远程存储桶上没有生命周期管理规则(例如转换或过期)。
MinIO 将所有转换后的对象存储在远程存储桶或资源中,并使用唯一的每个部署前缀值。此值并非旨在支持从后端识别源部署。MinIO 在配置远程目标时支持一个额外的可选人性化可读前缀,这可能有助于与诊断、维护或灾难恢复相关的操作。
对于包含其他数据的远程存储层级,包括来自其他 MinIO 部署的转换对象,MinIO 建议指定此可选前缀。本教程包含设置此前缀所需的语法。
远程数据的可用性
MinIO 分层行为取决于远程存储在请求时立即(毫秒到秒)返回对象。因此,MinIO *无法* 支持需要重新水化、等待时间或人工干预的远程存储。
MinIO 为每个转换后的对象创建元数据,以识别其在远程存储上的位置。应用程序无法独立于 MinIO 轻松识别和访问转换后的对象。因此,转换数据的可用性取决于与 擦除编码 和分布式部署拓扑结构为 MinIO 部署上的所有对象提供的相同核心保护。使用对象转换不会提供任何额外的业务连续性或灾难恢复优势。
需要 BC/DR 保护的工作负载应实施 MinIO 服务器端复制。复制确保对象保留在远程复制站点上,以便您可以在部分或全部数据丢失的情况下从远程重新同步。有关使用复制在部分或全部数据丢失后恢复的更完整文档,请参阅 重新同步(灾难恢复)。
步骤
1) 为生命周期管理配置用户帐户和策略
此步骤在 MinIO 部署中创建用户和策略以支持生命周期管理操作。如果部署已经具有具有必要 权限 的用户,则可以跳过此步骤。
以下示例使用 Alpha
作为 MinIO 部署的占位符 alias
。将此值替换为您正在配置生命周期管理规则的 MinIO 部署的相应别名。将密码 LongRandomSecretKey
替换为一个长、随机且安全的密钥,符合您组织的密码生成最佳实践。
wget -O - https://min-io.cn/docs/minio/linux/examples/LifecycleManagementAdmin.json | \
mc admin policy create Alpha LifecycleAdminPolicy /dev/stdin
mc admin user add Alpha alphaLifecycleAdmin LongRandomSecretKey
mc admin policy attach Alpha LifecycleAdminPolicy --user=alphaLifecycleAdmin
此示例假设指定的别名具有在部署上创建策略和用户的必要权限。有关 MinIO 用户和策略的更完整文档,请分别参阅 用户管理 和 MinIO 基于策略的访问控制。
2) 配置远程存储层级
使用 mc ilm tier add
命令将远程 MinIO 部署添加为新的远程存储层级
mc ilm tier add minio TARGET TIER_NAME \
--endpoint https://HOSTNAME \
--access-key ACCESS_KEY \
--secret-key SECRET_KEY \
--bucket BUCKET \
--prefix PREFIX \
--storage-class STORAGE_CLASS \
--region REGION
以上示例使用以下参数
参数 |
描述 |
---|---|
要为其配置 MinIO 远程层级的 MinIO 部署的 |
|
与新的 MinIO 远程存储层级关联的名称。以全大写字母指定名称,例如 |
|
MinIO 存储后端的 URL 端点。 |
|
MinIO 用于访问存储桶的访问密钥。访问密钥 *必须* 对应于具有所需 权限 的 IAM 用户。 |
|
指定 |
|
远程 MinIO 部署上 |
|
MinIO 将对象转换到的存储桶内的可选前缀。 MinIO 将所有转换后的对象存储在指定的 对于包含其他数据的远程存储层级,包括来自其他 MinIO 部署的转换对象,MinIO 建议指定此可选前缀。此前缀应提供清晰的参考,指回源 MinIO 部署,以便于与诊断、维护或灾难恢复相关的操作。 |
|
MinIO 应用于转换到远程 MinIO 存储桶的对象的 擦除编码存储类。指定以下支持的存储类之一
|
|
指定 MinIO 部署通常不需要在设置过程中设置区域。仅当您为部署显式设置 |
3) 创建并应用转换规则
使用mc ilm rule add
命令为存储桶创建新的转换规则。以下示例配置在指定日历天数后进行转换。
mc ilm rule add ALIAS/BUCKET \
--transition-tier TIERNAME \
--transition-days DAYS \
--noncurrent-transition-days NONCURRENT_DAYS
--noncurrent-transition-tier TIERNAME
以上示例指定了以下参数
参数 |
描述 |
---|---|
指定您要为其创建生命周期管理规则的 MinIO 部署的 |
|
指定您要为其创建生命周期管理规则的存储桶的完整路径。 |
|
MinIO 将对象转换到的远程存储层。指定上一步中创建的远程存储层名称。 如果您想将非当前对象版本转换到不同的远程层,请为 |
|
MinIO 将对象标记为可进行转换的日历天数。将天数指定为整数,例如 |
|
MinIO 将非当前对象版本标记为可进行转换的日历天数。MinIO 特别是测量对象变成非当前的时间,而不是对象创建时间。将天数指定为整数,例如 省略此值以忽略非当前对象版本。 此选项对非版本化存储桶无效。 |
4) 验证转换规则
使用mc ilm rule ls
命令查看已配置的转换规则。
mc ilm rule ls ALIAS/PATH --transition